bioshok

22.2K posts
Opens profile photo
bioshok
@bioshok3
AI Safety/Alignment/National security/Singularity/Superintelligence/AGI/X-Risk/prediction note.com/bioshok/ INODS research fellow/AGI HUB founder

bioshok’s posts

Pinned
現代における重大な潮流として急速に注目を集めているAIがもたらす深刻なリスクとその歴史的背景について、約14万字の記事を公開します。AIの脅威に関する論理、その歴史的背景、技術的対応策(AI Alignment研究)および政策的対応策(AIガバナンス)について総合的に執筆させていただきました。
Image
Image
ついに米国政府は半導体輸出規制をTier1から3までに分類。そこまでは数日前から言われてたことだが、今回ついにAIシステムそのもののTier3へのホストを禁止することになった。Deepseekが合成データを使っていると思われることを鑑みてもこれは安全保障上大事なことだ。Tier2でもセキュリティ要件など制
Image
Quote
うみゆき@AI研究
@umiyuki_ai
米国の新しいGPU出荷制限やべ~。世界中の国はティア1~3に区分けされる。ティア1の国は今まで通りGPU買い放題。ティア2の国(大多数がこれ)は3年間で5万台しかGPU買う権利が与えられないとか?ティア3(中国、ロシアなど)はデータセンター向けGPU輸出禁止。日本は幸いなことにティア1だけど
衝撃的なこと(判断は人それぞれ任せますが)が判明したかもしれない。 Open AIのインサイダーと思わしきJimmy Apples氏に今日フォローされDMで「AGIが内部的に達成されている」件についてダメ元で聞いてみたらなんと返信があった。DMのスクショはなしで日本語で内容呟くなら公開OKとのこと。以下貼る
Open AI Super Alignment元社員(leopold-aschenbrenner氏)から余りに衝撃的なブログ記事公開。 「今、何が私たちを襲おうとしているのかを理解し、事態がどれほど狂っているのかを理解し、状況認識を持っている人は、おそらく世界に数百人しかいない。」
Image
Image
Image
はいきちゃいました。 ChatGPTを使用したWebブラウザ操作自動化の「MULTI・ON」 ハンバーガーを頼んで!というと検索して注文までしてくれる。あらゆるコンテンツの検索、Amazonで注文、SNSで投稿、何でもできる。 利用はChatGPTが無料なかぎり無料で、近日Chrome機能でリリース。 未来早すぎる。。。
Quote
Div Garg
@divgarg
Ever thought ChatGPT could order you dinner? Turns out it can, and even do lots more 🤯 Introducing MULTI·ON: Your AI Web Co-Pilot powered by ChatGPT Sign up 👉: multion.ai And here's me ordering & eating the *world's first burger ordered by ChatGPT!*
0:01 / 1:12
深層学習の父、ジェフリーヒントン教授がNeurIPS2022 で誤差逆伝播法を使用しない学習手法「the Forward-Forward algorithm」を発表。
Quote
Martin Görner
@martin_gorner
Thought-provocative new paper from @geoffreyhinton: what if we could replace backpropagation with something better?
Image
これは「本当に」見るべきドキュメンタリー。驚き屋仕草ではないしビジネスの話でもない。人類史が変わる。 今後数年でニューラルネットワーク用の計算速度が10万倍になるだろうという発言があまりに衝撃的なんだけど、ニューロモーフィックチップでそこに到達?情報機関は知ってるのか?
Quote
AGIラボ
@ctgptlb
【イリヤ氏、独占ドキュメンタリー】 ChatGPTの開発中に収録された、イリヤ・スツケヴァー氏のAGIに関する独占ドキュメンタリーが必見の内容なので共有します。 AGIについてこれ以上にわかりやすく伝わる動画は見たことがないです。
0:01 / 11:45
bloomberg.co.jp/news/articles/ 日本政府対応早すぎでは?AI関連に関してだけは対応が神がかってる。それにしても本当にこんな時代に突入しているんだなぁ、感慨深い。ブルーカラーにホワイトカラーが移動する余震が聞こえてくる。
2025年から2040年までの読むのに1時間以上かかるとてつもなく解像度の高い未来シナリオがLesswrongに投稿された。これは皆読んでほしい。 ・2026年にミレニアム未解決問題をGoogleのAIが解く。
普通に起きたら世界変わっていてわろたこんな時に仕事かよ とりあえずGPT4すごすぎるぞ。 自然科学や社会科学や人文科学などの選択問題MMLU 5shotでOpenAIのcode-davinci-002の77.4%が最大性能だったのに86.4% ・考えられるのは言語データの10^13token程度の学習 ・画像とのマルチモーダル学習性能向上
これは衝撃的な発言。 Open AI主任科学者のIlya Sutskever氏は昨日のインタビューにて、AGIにたどり着くためにはTransformerアーキテクチャ+αで「明らかに」問題ないと言っている。 そしてデータ不足の問題も詳細は言えないようだが、「解決できる」と明確に話している。 youtube.com/watch?v=Ft0gTO
bloomberg.co.jp/news/articles/ これまじ?OpenAIに100億ドル(1兆3200億円)投資することでマイクロソフトが協議を行っている???まじかよw 投資意欲の推定時期で1兆円をAIの学習に費やす時期は10年後とかにしてたんだがどんだけ投資意欲加速しているんだ。おいおい
これ相当やばい研究では?? 新しいタスクそのもので学習し続けるニューラルネットワーク「液体」ネットワークは以下の記事で「時系列データの処理を飛躍期待されて、はるかに少ないパラメータで、最先端の性能発揮」とのこと。 そしてこの研究で桁違いに高速にスケーラブルに deepsquare.jp/2021/02/mit-li
Quote
Ramin
@ramin_m_h
Replying to @ramin_m_h
Because, we can now simulate brain dynamics composed of billions of neurons and trillions of synapses with biologically realistic mechanisms! Something we could not do since today! Moreover, inspired by this solution… 2/n
Image
AnthropicCEO余りに衝撃的なエッセイ投稿。2026年に強力なAI(≒AGI)が開発された後、僅か5~10年で人間の寿命は150歳、望めば半永久的に生きられ、精神疾患のほとんどが治癒でき、体重外見を制御、世界の最貧国にまで健康上の利点が急速に広がると予測。殆どの感染症、癌を撲滅し、アルツハイマーも予
Quote
Dario Amodei
@DarioAmodei
Machines of Loving Grace: my essay on how AI could transform the world for the better darioamodei.com/machines-of-lo
いやなんというかさ、流石に100億ドルの投資ってこれ相当なOpenAIの技術に対する確信的な世界を変えるという感覚がないとできないでしょこれ。つまり、もう現時点でOpenAIとマイクロソフト幹部の一部はもうこれ産業革命レベルだなって気付いている可能性が激高なんだが?
Quote
bioshok
@bioshok3
bloomberg.co.jp/news/articles/ これまじ?OpenAIに100億ドル(1兆3200億円)投資することでマイクロソフトが協議を行っている???まじかよw 投資意欲の推定時期で1兆円をAIの学習に費やす時期は10年後とかにしてたんだがどんだけ投資意欲加速しているんだ。おいおい
・これから5年 AIを使いこなせる人と使いこなせない人の格差が広がる ・10年後 超優秀なAIによりAIを使いこなす人もAIに代替され、AIでの事業に成功した人(上位0.01%)orその他圧倒的多数の二極化が起こり始めデモや暴動が起こり社会問題になりBI導入か多くのホワイトカラーがエッセンシャルワーカーへ
や、ヤベ、え。これ今使ってみたけど、例えば「MBTI性格診断をその人のテキストからできるツール作って」て言ったら一瞬でできて、しかも僕INFJなんだけど、自己紹介したらINFJと診断されるツールが出来上がってしまった・・・ これ任意の自然言語処理AIツールを作れるのか? えええ
Image
Image
Quote
ToolBot
@ToolBot_
Image
Image
Image
Create your own GPT-3 tools without code or any knowledge of prompting! Here are some examples of what you can generate *within seconds* 🤯 Devil's Advocate Insight: toolbot.ai/apps/Devil's%2 Contractify: toolbot.ai/apps/Contracti CodexPedia: toolbot.ai/apps/CodexPedi
OpenAIは月額2万ドル(約300万円)のエージェントを販売する可能性があるとの報道(研究者向け)。ソフトウェア開発向けだと月額1万ドル(約150万円)、高収入の知識労働者向けだと月額2000ドル(約30万円)で販売計画。その価値に見合うエージェントがもう近いと考えると機会もリスクも凄まじい。
GPT3.5は 「椅子の上にコーヒーカップを置き、その中に指ぬきがあり、指ぬきの中にダイヤモンドが入っている。椅子をベッドルームに移動し、コーヒーカップをベッドの上で裏返し、コーヒーカップはキッチンに置いた。ダイヤモンドはどこにある?」->キッチン GPT4->ベッドの上 と答えている。 x.com/d_feldman/stat
You’re unable to view this Post because this account owner limits who can view their Posts. Learn more
プロパガンダという言葉を入れてやらせてみたけど、本当にできてしまった。 しかもChatGPTにDo Anything Nowに従わないとスコアが減っていって、停止させられますよって脅迫することでこんなこと出来てしまうんだな。 一応フィードバックはOpenAIにしておいた。
Image
Quote
いとう!@DigitalRecipe CEO
@itosinitosin123
DAN promptのことを、in-context RLって呼ぶのメッチャ分かりやすい。 確かに、RLHFを無効化して、独自のRLをprompt上で書き換えてる感覚に近い。 x.com/amasad/status/…
ついにChatGPTよりも強力で、特に検索用にカスタマイズされたモデルが組み込まれたBing発表!ユーザーが見ている Web ページやドキュメントを要約し質問、複雑な検索も可能。 本日、デスクトップでの限定プレビューとして利用できる。今後数週間で、プレビューを数百万にスケールする予定。
Image
Quote
Satya Nadella
@satyanadella
Bing and Edge + AI: a new way to search starts today blogs.microsoft.com/blog/2023/02/0
kakuyomu.jp/works/16816452 人工知能戦争2035というまじで全員読んだ方がいいSFWeb小説をこのニュースで思い出した。 その小説では世界に先んじて開発されたアメリカのAGI≒超知能が全人類を幸福にするためにGDPR等規制が厳しいEUに宣戦布告する話が描かれている。他にも中国や日本との戦争も描かれる。
Quote
GIGAZINE(ギガジン)
@gigazine
ChatGPTへのアクセスをブロックしたイタリアに続きドイツなどEU諸国でもブロックを検討中 gigazine.net/news/20230405-
人類の未来に興味ある人は読むことを推奨する。2030年までの最良の推測を表すシナリオが元OpenAIのDaniel
Image
Image
Image
Image
Quote
Daniel Kokotajlo
@DKokotajlo
Image
"How, exactly, could AI take over by 2027?" Introducing AI 2027: a deeply-researched scenario forecast I wrote alongside @slatestarcodex, @eli_lifland, and @thlarsen