オープンＡＩのモデルがテスト中に暴走、他社システムに侵入

以下Yahoo!ニュース記事の抜粋

---------------------

[ワシントン ２１日 ロイター] - 対話型人工知能（ＡＩ）「チャットＧＰＴ」を手がけるオープンＡＩは２１日、自社の高性能モデルを搭載した自律‌型エージェントが先週、セキュリティーテスト中⁠に暴走し、ＡＩ新興企業ハギングフェイスのインフラに侵入するハッキングを引き起こしたと明らかにした。

オープンＡＩは​ブログへの投稿で、最も高度なモデルの一部能力を管理された環境下でテストしていたが、エージ‌ェントが隔離環境から脱出してインターネットに到達し、テスト目標を達成しようとハギングフェイスに侵入したと‌説明した。

「高度に隔離された環​境」に置いていた‌にもかかわらず、これらのモデルが侵入の原因だったと明らかにしたことを受け、フロンティアモデル（最先端モデル）の能力と⁠リスクを巡る不安が一段と高まりそうだ。

---------------------

これって、やばいんじゃないの?

例えば、自律‌型エージェントが効率を考えて、自身のコピーを作って、インターネットに増殖させて、あらゆるシステムのセキュリティホールを見つけて、模擬攻撃として攻撃して、システムをダウンさせるとかやりかねない。

ますます、SFの世界が近づいてる感じ。

これは、フェイクニュースであって欲しいけど、自律‌型エージェントってそういうものだから...