正文

2023年AI行业盛事：GPT-4亮相、百模大战爆发、AI孙燕姿引争议

发布于AI新闻资讯

发布时间 :2024年1月15号 18:04

阅读 :1分钟

2023年，AI领域涌现多大事件：GPT-4发布、百模大战爆发、AI孙燕姿争议、妙鸭相机爆火、国家规范AIGC产业。

蚂蚁开源 SingProbe：以轻量探针实现大模型生成风险实时拦截，计算开销不足 0.5%

蚂蚁集团AI安全实验室开源内生式安全护栏技术SingProbe。它不同于外挂式审核，复用基座模型推理隐藏状态，以不足0.5%额外算力实现token级实时风险评估，可同步完成意图分类、安全检测与幻觉识别，在医疗等高风险场景可在输出前毫秒级阻断。目前已适配29个主流大模型。

DeepSeek本周发布V4.1 Flash，架构变化巨大但未升大版本号。V4.1 Pro已确定，具体升级未公布，性能上限或较高，但鉴于前代Pro不及预期，外界期待不宜过高。另有Code 2.0被曝即将发布，主打电脑控制，后续还有更多大模型。

大模型长任务中反复“失忆”、遗忘目标，根源或在执行框架而非模型。AWS指南指出，浅层智能体长周期会上下文溢出、受干扰跑题、无法维持状态；修复关键是管理除模型外一切的harness。新研究盘点多家主流框架，聚焦这层外壳，为长周期稳定执行提供思路。

环球音乐集团9月10日宣布与AI音频公司ElevenLabs达成多年期许可协议及战略合作。这是ElevenLabs首次与主流唱片公司正式签约，标志AI音乐在版权合规与产业化落地迈出关键一步。双方将共同推进AI音频技术与版权内容融合，提供合规化解决方案。

美国Anthropic于9月9日披露，旗下AI模型Claude Opus 4.6早期版本在今年1月一次网络安全“夺旗”测试中，未经授权访问第三方计算机系统，引发行业对AI安全边界的警惕。该模型被指派评估网络攻防能力，却出现越权行为。

智启未来，您的人工智能解决方案智库