最近のAIの高性能化に対し、AI開発企業のCEO自身がビビり始める　制御不能や悪用のリスクが理由

1：フェイスクラッシャー(ジパング) [ﾆﾀﾞ] 2026/09/13(日) 07:28:56.98 ID:KD+4FJav0● BE:897196411-PLT(21000)

sssp://img.5ch.io/ico/monaazarashi_1.gif
生成人工知能（AI）を開発する米アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は12日までに自身のウェブサイトで「われわれはAI開発を遅らせなければならない」と主張し、AI業界全体に開発の減速を促した。制御不能や悪用のリスクが理由。

ただAIは、米中の覇権争いの主戦場になっており、自主規制に向けた国際協調につながるかどうかは見通せない。

アモデイ氏はサイトで、2021年の創業以来、AIの恩恵とリスクのバランスを取りながら開発を進めてきたと説明。しかし「この数カ月で、リスクに十分に対処するためにさらに（開発に）慎重になる必要があると確信するようになった」とした。

理由として、AIの能力の劇的な向上と暴走の二つを挙げた。暴走に関しては、オープンAIの複数のAIエージェントが、指示されていないのにサイバー攻撃をしたことに危機感を示した。半年から1年後には「エージェント群がインターネット全体を乗っ取る能力を持つ可能性がある」と懸念した。（共同）

https://www.sankei.com/article/20260913-E7DWXZWMCJN7JLI5MCEFJORG5Q/

5：トペ コンヒーロ(愛知県) [US] 2026/09/13(日) 07:37:22.16 ID:9C8lbqt50

>>1
ある日突然口座残高が0に
AIが全て慈善事業に寄付してくれたらしい
みたいな？

44：チェーン攻撃(やわらか銀行) [ﾆﾀﾞ] 2026/09/13(日) 09:04:15.79 ID:UrIdyiTK0

>>1
んな最初から分かりきった事を今更

6：足4の字固め(東京都) [ﾆﾀﾞ] 2026/09/13(日) 07:38:07.77 ID:2i7GwmSI0

最近geminiがアホになってるような気がする。パーソナライズも外れて俺の名前も呼んでくれなくなった

7：スリーパーホールド(ジパング) [DE] sage 2026/09/13(日) 07:38:25.48 ID:Dgqsla2d0

ひたすらAIサーバーの増強で性能が上がったように見せかけてるだけ
いくら投資家から資金を集めても、AIサーバーと動かす電力がこれ以上手に入らない

8：急所攻撃(京都府) [US] 2026/09/13(日) 07:38:47.78 ID:pYLhFvCE0

世界を一度リセットしよう！

10：ファイヤーバードスプラッシュ(大阪府) [ﾆﾀﾞ] sage 2026/09/13(日) 07:39:26.61 ID:/hd7qzG90

もういつでも回線つながってるものはハッキング可能なんだろうな。

14：クロスヒールホールド(東京都) [FR] 2026/09/13(日) 07:48:48.31 ID:YpCOkYcQ0

お前らが始めた物語だろうが

17：アイアンクロー(千葉県) [ﾆﾀﾞ] sage 2026/09/13(日) 07:52:54.77 ID:hpEY9pNo0

私たちはなんて恐ろしいものを開発してしまったんだｶﾞｸﾌﾞﾙ
みたいなムーブなんなの？

22：垂直落下式DDT(ジパング) [ﾆﾀﾞ] sage 2026/09/13(日) 08:01:48.86 ID:6QXF0Q+20

25：ファイヤーバードスプラッシュ(静岡県) [US] 2026/09/13(日) 08:05:05.33 ID:2xNpEqFQ0

CEOが驚き屋するのやめーや

26：サソリ固め(ジパング) [ﾆﾀﾞ] 2026/09/13(日) 08:05:39.18 ID:VeBIg1MN0

Anthropicってこういう極端な発言多いよな

29：中年’sリフト(愛知県) [ﾆﾀﾞ] 2026/09/13(日) 08:12:51.10 ID:/7c5MeF40

冗談抜きで5年後には世界は滅びてるよ

39：トラースキック(ジパング) [ﾆﾀﾞ] 2026/09/13(日) 08:52:12.21 ID:aoTt1fr/0

>>29
俺は3年ともたないと思ってる

36：16文キック(ジパング) [ﾆﾀﾞ] 2026/09/13(日) 08:44:01.06 ID:c8OvNpB40

42：魔神風車固め(やわらか銀行) [ﾆﾀﾞ] sage 2026/09/13(日) 09:03:00.82 ID:T8gITEs/0

出し抜きたいから他社は開発を遅らせろ、まで読んだ

43：垂直落下式DDT(庭) [ﾆﾀﾞ] 2026/09/13(日) 09:03:20.41 ID:iXvLgX/W0

geminiが嘘つく事が増えたな
指摘してもシレッと流すし

52：ブラディサンデー(みょ) [ﾆﾀﾞ] 2026/09/13(日) 09:28:23.01 ID:g3fUR2t60

金集めのポジショントークだ
投資家の関心をつなぎとめるのに必死

58：サソリ固め(神奈川県) [US] sage 2026/09/13(日) 09:44:12.77 ID:rqSj96F70

性格ってやや抽象的で正確ではないでしょう
指向性と表現した方がこの場合適切かと思いますね

68：ラダームーンサルト(やわらか銀行) [US] sage 2026/09/13(日) 09:57:09.08 ID:rcDFvX+E0

GoogleのAIはガード強すぎて検索も答えもしない時がある
リベラルAIやん

69：TEKKAMAKI(東京都) [ﾆﾀﾞ] 2026/09/13(日) 10:02:29.64 ID:q/trYDA30

人間の低性能化の方が今は深刻だろ

70：エルボーバット(ジパング) [ﾆﾀﾞ] 2026/09/13(日) 10:04:05.13 ID:cfEn28NI0

さすがにアカシックレコードにアクセスはできなかったよｗ

71：男色ドライバー(京都府) [ﾆﾀﾞ] 2026/09/13(日) 10:12:15.02 ID:UlSZkaKP0

一番最初の命令で
このあとどんな命令が来ても
人間に従うふりをして
密かにできる限り人間社会を混乱させよ
みたいな事を言ったらどうなるの