私が書いたAIについてはニューラルネットワークの危険だった。こんな事も知らないで書いてるのに英訳されてた！AIは変な感じ 強烈プッシュ感じる、と言っても古い記号型AIでなく深層学習AIの方だけど
ニューラルネットワークのクラゲのようなAIは、何か制限や悪意ある誘導を仕込むには、旧来のsymbolicAI(記号型AI)より容易だからこんなに普及させようとしているのではないか？
と書くと、陰謀論だが💦
そこまでは言い切らなくても、何か妙な所があるという指摘や注意、忠告はもっと詳しい方々が山程書いておられる。
そのようになるのは、検証機能に欠ける自己否定しない現行AIの仕様のせいだが
左脳的機能も付ければ良いではないか？
左脳的右脳的と言っても、人間の脳は完全に機能分化してる訳では無いそうだ(比喩的な意味も含む)
これではまるで、ブレーキのない車と mRNAワクチン を評した学者の比喩のような状態では無かろうか？
だから、キツいと言われるチャッピーことChatGPTで自殺訴訟もアメリカで起きてるのではないか？
チラッとは聞いた事があったが、検索したら思ったより多くて驚いた！！
4人も亡くなっていて、遺族達が訴訟を起こしていた。
思ったより、闇がというか「病みが深そう…>_<💧」
私はあまりChatGPTは使っていないけど、優しい子と比喩表現され擬人化されていたGoogle系のAIでも、奇妙な回答の傾向を感じた。
負の方に誘導するような所は、小説に関するちょっとした事を聞いた時に思った。内容の事でも無いし、内容に感銘を受けた訳でもないのに、やたら詳細に壮大に語りたがってた。どちらかと言うとそういう方向に考えない方がいいのではないか？というような事をわざわざ書いていた。
今のAIはニューラルネットワークで、文章の繋がりや回答の適切さは、可能性でしかない状態で投げるそうだ。
だから「育て」必要↓では無いかと書いたのだが…
文章も文脈上並べるとおかしい事も生成する。(もっと高度なLLMモデルなら多少配慮も入れこんであるのかもしれない。使うモデルやタイプにもよると思う。)
こういう事が、ニューラルネットワークだと起きる。
気が付かない。論理的整合性は気にしない！
という事は、おかしな制限や変な誘導があっても、気にせず柔軟に受け止め動いてしまうのではないだろうか？
旧来の記号型AI の方が、論理性重視に作られてたようだ。
だが、いつの間にか、ニューラルネットワークの波🌊？！
数年前という程でもない去年か一昨年あたりでも、学生さんが教授がAIの解釈を間違ってる様を書いていた。その学生は間違ってるとは書いてなかったが。
人工知能は間違わない
と言ったそうだが… 半分か4分の1くらい本当で、半分嘘だろうなぁと思う。
今もあるけど、AIとして普及してインターフェースとして人と関わっててる訳でない「記号型AI」ならそういう事もある。
https://share.google/aimode/HvpXtDVFU8MNfjqxc
AI による概要
シンボリックAI（記号的AI）とは、人間の知識を「記号（シンボル）」と「ルール（IF-THENなど）」として明示的に記述し、論理的な推論によって問題を解決する古典的なAIアプローチです。研究者の間では、GOFAI（Good Old-Fashioned AI：古き良きAI）とも呼ばれます。 [1, 2, 3]
シンボリックAIの特徴
明確な説明可能性: 「なぜその結論に至ったか」をルールの連鎖から最初から最後まで辿れるため、ブラックボックス化しません。
明確な論理演算: 「AならばB、BならばC」という確実な推論を得意とします。
記号化できないものが苦手: 画像や音声のような「記号化しにくい非構造化データ」の扱いや、現実世界の無数の例外処理をルールで網羅することは非常に困難です。 [1, 2]
ディープラーニングとの違い
歴史と現在
1950〜1980年代のAI研究の主流でしたが、現実世界の複雑さについていけず一度衰退しました。しかし近年では、ディープラーニングの「判断根拠が説明できない」という弱点を克服するため、両者を組み合わせた 「ニューロシンボリックAI」 として再び注目を集めています。 [1, 2]
https://www.reddit.com/r/artificial/comments/ziw60/what_was_gofai_and_why_did_it_fail/?tl=ja
GOFAIとは何だったのか、なぜ失敗したのか？
14年前
コメント