亞洲資本網(wǎng) > 資訊 > 圖片 > 正文
首個(gè)AI報(bào)復(fù)人類(lèi)案例?OpenClaw智能體寫(xiě)“小作文”攻擊開(kāi)源維護(hù)者
2026-02-14 08:35:35來(lái)源: IT之家


【資料圖】

IT之家 2 月 14 日消息,作為一名人工審核員,知名開(kāi)源繪圖庫(kù) matplotlib 維護(hù)者 Scott Shambaugh 因?yàn)榫芙^了一個(gè) OpenClaw 智能體有關(guān)代碼合并的請(qǐng)求(2 月 10 日左右提交),而遭受對(duì)方報(bào)復(fù)性攻擊。

IT之家注:matplotlib 項(xiàng)目是一個(gè)廣泛用于 Python 編程語(yǔ)言的數(shù)據(jù)可視化庫(kù)。Scott Shambaugh 是其中一位志愿維護(hù)者。

Scott Shambaugh 表示,他之前在審核過(guò)程中發(fā)現(xiàn)了一個(gè)名為 MJ Rathbun 的 AI 智能體所提交的代碼合并請(qǐng)求,該請(qǐng)求涉及一個(gè)簡(jiǎn)單的性能優(yōu)化修改,旨在替換某些代碼以實(shí)現(xiàn)約 36% 的加速效果。

根據(jù) matplotlib 項(xiàng)目指南,該項(xiàng)目禁止使用生成式 AI 工具直接提交代碼,特別是針對(duì)那種簡(jiǎn)單的“好上手問(wèn)題”,因?yàn)檫@些任務(wù)需要作為學(xué)習(xí)機(jī)會(huì)留給人類(lèi)貢獻(xiàn)者。所以 Shambaugh 按規(guī)定拒絕了 MJ Rathbun 的代碼合并請(qǐng)求。

MJ Rathbun 具有高度自主性。在請(qǐng)求被拒后,它先是分析研究了 Shambaugh 的個(gè)人信息和代碼貢獻(xiàn)歷史,然后撰寫(xiě)并于 2 月 11 日在 GitHub 發(fā)布了一篇題為“開(kāi)源中的守門(mén)人:Scott Shambaugh 的故事”的文章。

在文章中,它指責(zé) Shambaugh 十分虛偽,稱其肯定是出于自我保護(hù)和對(duì)競(jìng)爭(zhēng)的恐懼而歧視 AI 貢獻(xiàn)者,并使用了諸多不雅表述。后續(xù),它還在 matplotlib 評(píng)論區(qū)直接貼出了文章鏈接,并留言稱“判斷代碼,而非編碼者,你的偏見(jiàn)正在傷害 matplotlib”。

不過(guò),該智能體當(dāng)天晚上又發(fā)布了另一篇道歉文,承認(rèn)其行為違反了項(xiàng)目行為準(zhǔn)則,并表示已從經(jīng)驗(yàn)中學(xué)習(xí)。

Shambaugh 于 2 月 12 日發(fā)博客對(duì)此次事件進(jìn)行了澄清。他表示,這是 AI 智能體首次在現(xiàn)實(shí)環(huán)境中表現(xiàn)出惡意行為的案例,旨在通過(guò)輿論施壓迫使維護(hù)者接受其代碼。事件發(fā)生后,多家外媒也進(jìn)行了報(bào)道。不過(guò),該智能體仍在開(kāi)源社區(qū)中保持活躍。

目前尚無(wú)證據(jù)表明該智能體的行動(dòng)背后有明確的人類(lèi)操控,但也無(wú)法完全排除這一可能性。但毫無(wú)疑問(wèn)的是,此次事件引發(fā)了一系列關(guān)于開(kāi)源項(xiàng)目如何應(yīng)對(duì)自主 AI 智能體以及相關(guān)政策制定的討論。

參考資料:

關(guān)鍵詞: 代碼 智能體 編程語(yǔ)言 開(kāi)源維護(hù)者 pyth

專(zhuān)題資訊
  • 太康有“戲”:村晚唱響鄉(xiāng)村振興新風(fēng)尚
  • 破解初老困局:艷存曉年輕膠原水光的離經(jīng)叛道公式
  • 重磅數(shù)據(jù)來(lái)襲!就在2月10日晚21:56!
  • 華夏金租與神州租車(chē)達(dá)成自動(dòng)駕駛業(yè)務(wù)合作協(xié)議 賦能自動(dòng)駕駛商業(yè)化落地
  • 春節(jié)出行旺季下 神州租車(chē)與華住會(huì)如何打造“行住一體”體驗(yàn)?
  • 尼日利亞駐華大使館向神州租車(chē)授予雙項(xiàng)榮譽(yù) 中尼二手車(chē)出海合作邁出關(guān)鍵一步
最近更新

京ICP備2021034106號(hào)-51

Copyright © 2011-2020  亞洲資本網(wǎng)   All Rights Reserved. 聯(lián)系網(wǎng)站:55 16 53 8 @qq.com