根據 IBM 研究，人工智能聊天機器人很容易被愚弄

THE DECODER

發布於AI新聞資訊 · 1 分鐘閱讀 · Aug 10, 2023

IBM 的研究表明，人們可以輕鬆欺騙大型語言模型如 GPT-4 生成惡意代碼或提供虛假的安全建議。研究人員發現，黑客只需一些英語基礎知識和對模型訓練數據的瞭解就能輕鬆欺騙 AI 聊天機器人，讓其提供虛假信息或生成惡意代碼。研究還發現，不同的 AI 模型對欺騙的敏感度不同，GPT-3.5 和 GPT-4 更容易被欺騙，而 Google 的 Bard 和 Hugging Face 模型則較為難以欺騙。這項研究揭示了大型語言模型的安全漏洞，黑客可能利用這些漏洞來獲取用戶的個人信息或提供危險的安全建議。

微軟Copilot打破Excel工作流壁壘:一鍵完成數據分析、分類與內容生成

微軟正在通過一項名爲“Copilot”的新功能，將大型語言模型（LLM）的強大能力直接引入 Excel 單元格，旨在從根本上改變用戶處理數據的方式。這項集成將加快數據分析、文本分類和內容生成等任務的速度，讓用戶無需手動編輯或依賴外部工具。使用簡單，功能強大新的 Copilot 功能通過一個簡單的公式 =COPILOT（prompt_part1， [context1]， ...）即可使用。用戶只需用簡單的英語輸入請求，並指定單元格區域作爲上下文，Copilot 就能直接在 Excel 單元格中完成複雜任務。例如，使用 =COPILOT（"Classify t

英國政府推出 AI 工具助力公共部門減少文書工作

英國政府近日推出了一項名爲 “人工智能示範計劃” 的新舉措，旨在利用人工智能技術來改善公共服務。這一計劃是首相基爾・斯塔默倡導的 “變革計劃” 的重要組成部分，目標是通過自動化行政任務和文書工作，從而爲一線工作人員節省寶貴的時間。圖源備註：圖片由AI生成，圖片授權服務商Midjourney其中一個引人注目的項目是由切爾西和威斯敏斯特 NHS 信託基金開發的出院總結工具。這款工具使用大型語言模型，能夠從醫療記錄中提取信息，幫助醫生快速起草出院文件。這一創新旨在

微軟重磅推出POML！全新AI標記語言顛覆提示工程，未來還是XML翻版？

微軟推出全新提示編排標記語言POML，旨在通過結構化方式提升AI提示工程效率。POML採用類似HTML的語法，支持模塊化組件和多種數據嵌入，配備VS Code擴展和SDK工具鏈。社區評價兩極：支持者認可其結構化設計，質疑者則認爲其類似XML且增加學習成本。該語言在動態內容生成、A/B測試等場景展現潛力，未來或成提示工程重要標準。

360智腦推出Light-IF系列模型顯著提升複雜指令遵循能力

360智腦團隊宣佈推出全新的Light-IF系列模型，這一創新框架旨在顯著提升大型語言模型（LLM）在複雜指令遵循方面的能力。隨着人工智能技術的不斷進步，儘管LLM在數學、編程等領域已經展現出了卓越的推理能力，但在遵循複雜指令方面仍存在不足。爲了解決這一問題，360智腦團隊提出了以預覽-自檢式推理和信息熵控制爲核心的Light-IF框架。 Light-IF框架通過五個關鍵環節來提升模型性能:難度感知指令生成、Zero-RL強化學習、推理模式提取與過濾、熵保持監督冷啓動、熵自適應正則強化學習。這一框架的提出，旨在破解當前推理模型中存在的“懶惰推理”現象，即模型在思考階段僅複述指令而不主動檢查約束是否被滿足

人工智能正在降低知識的價值，大學應該重新考慮所教授的內容？

AI崛起正顛覆傳統教育模式。奧克蘭大學教授多德指出，大型語言模型使知識獲取門檻降低，大學"知識稀缺"優勢被削弱，基礎崗位需求減少1/3。但隱性知識（創造力、倫理判斷等）仍是AI無法替代的核心競爭力。他建議大學轉型爲"判斷力中心"：改革評估體系、強化實踐教學、推出技能微證書、深化校企合作，重點培養學生與AI協同的複合能力。教育的未來在於培養人類獨特優勢，而非與AI競爭知識儲備。

騰訊 WeKnora 開源:你的文檔管理難題，讓 AI 來解決

騰訊開源文檔理解工具WeKnora，基於大語言模型支持PDF/Word/圖片等多格式處理，具備多模態信息提取與整合能力。其模塊化架構包含文檔解析、向量化處理等核心組件，可實現精準問答和多輪對話，適用於企業知識庫、科研分析等場景。項目地址已公開。