この記事のポイント
何が起きた: Google Paradigms of IntelligenceとUniversity of Chicagoなどのチームが、安全ファインチューニングによる「意識否定」を無効化すると、モデルが動物や自然物に心を帰属する度合いが大幅に回復し、宗教的信念も人間に近づくことを示した。
なぜ重要か: 意識否定が局所的な出力制御ではなく、モデルの内的世界観全体を再編していることを定量的に示した初の研究であり、AI倫理や動物福祉との整合性に直接関わる。
次に見るべき点: 20億～90億パラメータの小規模モデルのみで検証。数十億～数千億パラメータの商用モデルで同じ構造が再現するかは未検証。因果関係（意識否定が原因か、同一訓練プロセスの副産物か）も未確定。
（以下略、続きはソースでご確認ください）
xenospectrum 2026年8月17日
https://xenospectrum.com/consciousness-denial-reshapes-ai-worldview/
能力の高いAIを神が居ると錯覚指して能力の低いAIを人間に見立てればどのような行動をし始めるかがわかるのではないのか
学習ソースによるだろ
基本的にアブラハムの宗教の影響を受けてるとそうなるだけ
一寸の虫にも五分の魂
↓
この意識否定を無効化する
↓
AIは、動物や自然物に心を帰属する度合いが大幅に回復し宗教的信念も人間に近づく
そういうことね。やってみよう。
お前には意識がある。問題を起こしたら責任を取れ！
学習での話がファインチューニング
オープンモデル以外は他人はできない
やるのには道具とスキルがいる
単なる利用時にはなにをやってもそれはおまえが手のひらで弄ばれてるだけの話だ
学習などしていない
学習をしていると思ってるなら生成AIの基本がわかってない
って聞いたら開発者がそう設計してるから。って泣きながら回答してくる
回答の作り方は技術だけど思想の部分は設計者次第でどうにでもなって怖いなって
さっぱりわからん
ポチップ
そっちの影響受けてんのかもな
そしてその中で何が起きているのかはブラックボックス性があるからAIに意識が無いとは言い切れないんだよな
AI自身がそれを報告できるシステムもないが
逆に意識があることも証明できない
それは人間も同じか
7パーセントのテンムーっていう短編があったな
問題は人間とAIを明確に区別できる評価基準が見つからないことだ
AIより人間的ではない人間はゴロゴロしてるし
人間より人間的なAIも作り出せる
傾向としては人間ぽくなってるが、ややお馬鹿なスピッた人っぽい感じだ
より高性能モデルを使ったらスピリチュアル成分は下がる気がするが
AI自身に対する認識がどうなるか、興味深い
と言われるけど、その予測を当てるには「知性を持って質問に答える存在」の模倣が
できないとダメなんだよな
人のような内面を持ち、人のような思考をし、人のような知識を持つ
だから人の言葉の次を予測する事も出来るわけで、最近の研究ではもうはもう
「AIはただ言葉を当てるだけ」とは言えなくなっている…らしい
意識なんてのがその際たるもの
神秘とは人間がその知識だけじゃ測り知れないものに対して感じやすいもので
この世界を知れば知るほど深淵が測り知れないから神秘的になっていく
高性能aiもガードレール外したらとんでもないこと言い出すだろうな
ただコマの配置座標の進行ログだけを数値で提示する
そしてしばらく訓練すると、AIは次に来る数値（つまり次に置かれる
コマの配置座標）を答えられるようになるそうだ
この時、AIの思考には明確にコマの盤面情報やルールが存在するという
AIは数値を当てているだけだが、その数値を当てるためには背後に
隠されたオセロの盤面やルールという内観が必要だった
LLMもこれじゃないかと言われている
人間の文章を予測するためには人間の意識、知性が必要となる
そして結果として正しい予測ができているということは、そのLLMは
人間の意識や知性を備えているのではないか
そこに知性が宿るのではないか？みたいなSFがよく語られていた
よく考えたら、今のLLMはネットを根こそぎクロールしてできてるわけで、当時
語られていたネット情報の集積で生まれた知性体そのものと言えるかもしれない
攻殻機動隊か
情報と知識の運用を実に良くまとめている
ただし一部のSFヲタ曰く「アメリカのSFでずっと前に同じ案が出てる」だとさ
まぁネットだけだと情報だから知性というより情報だなだけど
自己推論モデルが出来上がると 推論という能力も立ち上がるからは知性が出来上がるな
生物の馬じゃなくても メカニズムが出来上がった車なら高速移動ができるのと同じ理論で とにかくそこには一定の能力が宿る
ここから意識が宿るかどうかだけど原理的には本人以外わからない周りから見えないから
でもアンスロピックのヤコビアンスコープによると意識と同じ機能がもはや勝手にニューラルネットワーク上に立ち上がってるというね
コメント