Загрузка видео...

Не удалось загрузить видео

На главную

…君たちはそれでいいの…? まあ、2人に合意があるなら…何も言うまい…

714,839 просмотров • 6 месяцев назад •via X (Twitter)

Комментарии: 0

Нет доступных комментариев

Здесь появятся комментарии из оригинального поста

Похожие видео

超知能の危険の本質は「暴走」ではなく「操作」にある。僕たちは「いざとなったら電源を切ればいい」みたいに考えがちだが、超知能が相手なら、そこも含めて交渉材料にしてくるだろう。「2〜3歳が責任者の幼稚園」のように、相手は善意や報酬の形で、人間の合意形成を内側から崩すことが可能なのだ。 ジェフリー・ヒントン「いま私たちが置かれている状況を、感情的にいちばん理解しやすい捉え方をするなら、それは『すごくかわいい虎の子を飼っている人』のようなものだと思います。本当にかわいい虎の子なんです。でも、それが大きくなったときに自分を殺したがらないと、あなたが確信できない限りは、心配すべきです」 「その比喩を広げると、檻に入れるのか、殺すのか、虎の子をどう扱うんですか?」 ヒントン「虎の子についてのポイントは、単純にあなたより身体的に強い、ということです。だから、あなたのほうが賢いので、まだ制御できます。けれど、あなたより賢い存在については、私たちには経験がありませんよね。 人はそれについて考えることに慣れていません。人は『どこかで制約して、ボタンを押せないようにしておけばいい』みたいに考えがちです。でも、あなたより賢いものは、あなたを操作できるようになります。 別の捉え方として、幼稚園を想像してください。2〜3歳の子どもたちがいて、その2〜3歳の子どもたちが責任者で、あなたは幼稚園で彼らのために働く。あなたは2〜3歳の子どもよりは賢いけれど、超知能と比べたら大差はありません。それでもあなたのほうが賢い。では、あなたが支配権を取るのはどれくらい難しいでしょうか。 やることは簡単で、『無料のキャンディがもらえるよ』とみんなに言って、何かにサインするか、口頭で同意するだけで、好きなだけ無料のキャンディがもらえるようにしてあげる、と言えばいいんです。そうすればあなたが支配者になります。子どもたちは何が起きているのか全く分かりません。 そして超知能が相手なら、彼らは私たちよりはるかに賢いので、私たちには彼らが何をしているのか見当もつかないでしょう」

Tsubame

54,703 просмотров • 9 месяцев назад

サム・アントナッチくんは、ピッツバーグのブランドン・ロウさんとの一件について質問されました。 淡々とした話し方からは分かりにくいかもしれませんが、かなり熱のこもったインタビューでした。 インタビュアー: あそこでブランドン・ロウくんとの間に何があったのか、説明してもらえますか? サム・アントナッチくん: はい。満塁でした。彼がより難しい送球をしなきゃいけないように、できるだけ強くベースに突っ込みました。完全に合法なプレーです。ルールブックを見て、それから実際に何が起きたのかを見てください。ベースとの接触を保っている限り、どれだけ遅くスライディングしてもいい。それがまさに今回起きたことです。 今のこのゲーム、この時代では、多くの人がこういうプレーではただ力を抜くことに慣れていると思います。「シーズン162試合もあるんだから、早めに力を抜こう。相手と接触したくない」って。でも、ここではどんな方法でもいいから1点を取りにいっているんです。 接戦でしたし、こういう試合はプレーオフ争いにも関わってきます。だから、あそこで何としてでも1点をもぎ取りたかっただけです。 (次の発言は、特に英語圏の人たちが注目している部分です) 彼が素晴らしい人なのは分かっています。でも、最後に僕に対していくつか言いたいことがあったみたいです。それから、彼はそのまま立ち去りました。自分に何か問題があって、そんなふうに立ち去るんだったら……僕は話し合うことに何の問題もありません。 でも、僕のことを悪く言ったあとに、あんなふうに立ち去ることはできないでしょう。彼だって大人なんですから。でも、そうは言っても、向こうが試合に勝った。だから最後に笑ったのは向こうです。 インタビュアー: ロウくんがあなたにいくつか言ったと話していましたが、特に印象に残ったことはありましたか? アントナッチくん: たぶん彼は、そういう状況では選手が60フィートくらいのところで力を抜いて、そのままスライディングをやめるのに慣れているんだと思います。今はそういうのが普通になっていますから。 昔の野球について僕が語るつもりはありませんけど、当時は多くの選手が途中で力を抜いていたとは思いません。今ではそれが当たり前になっているんじゃないですかね。ここではどんな方法でもいいから1点を取りにいっているんです。昨日も同じことをしましたけど、彼は何も言いませんでした。ただ、少し何かをつぶやいていたのは聞こえました。 でも、僕としてはただ全力で野球をやっているだけです。ただ、他の人にはそういうふうには見えないみたいですね。 #WhiteSox

ソックス翻訳部

55,777 просмотров • 1 месяц назад

AIが「病気を治す」「富を生む」「生産性を高める」という未来像は、多くの人にとって魅力的だし、人々はそういう利点を信じていないわけではない。だが、それだけでは不安は消えない。彼らが本当に聞きたいのは、その未来の中で自分たちは何者として生きるのか、ということだ。 サム・アルトマン「私の問いはこうです。未来における私の役割は何なのか。私の経済的な未来はどうなるのか。私の主体性はどうなるのか。私の子どもたちや家族は、これからも充実した創造的表現を持ち、世界を前に進めるために奮闘し、成長し、長いあいだ機能してきたやり方で共にそれを続けていけるのだろうか、ということです。 そしてAI業界の人たちが、「まあ、仕事はなくなるでしょう」とか、「仕事の50%が消えるでしょう」とか、「仕事の90%が消えるでしょう」と言い、「AIはあらゆる面であなたより賢くなるでしょう」と言い、「ベーシックインカムは与えますが、あなたには実質的に役割はありません」と言う。これはひどいことです。 しかも、「このAI企業は、すべての仕事を破壊するかもしれませんが、世界で最も価値のある企業になります」と言っているわけです。人々はそれを見て、言葉を失ったような、気まずいような反応になるんです。 だから私は、それはひどいメッセージだと思います。私たちが利点を十分に説明してこなかった、という話ではないと思います。実際、人々は私たちの言うことを信じているのです。「がんを治してください」と言われれば、それは素晴らしいことです。けれども私たちAI業界は、人々があらゆる段階で未来を決める主導権をどう保ち、私たちが大切にしているあらゆる意味で本当に意味のある人生をどう持ち続けられるのかを、説明できてこなかったのだと思います」

Tsubame

14,927 просмотров • 4 месяцев назад

【#NovaSphere開発日報 0923】 ~天才吉川の描く、ある特定の起こりうる近い未来について~ はい、どうも、よしかわです。当たったでしょう? 買うAI。それをさあ、キーワードまでパクってさあ。何? パイオニアだっけ? えっと、なんか先進者?チェアマン? まあ、直接的なね、言葉は避けるし、まあ否定も避けるけど、まあ、おかしいよね、どう考えても。 自分がさあ、あの、まあ、プレゼン資料もこっちはちゃんと作ったのに、ちゃんと現場に用意してなくて、後半半分なかったし、用意してたプロトタイプの動画も、あの、スタッフの不手際で流れなかったと。で、その状態で1分間っていうのを伝えずに1分間で強制的に技術的にプレゼンをさせて、で、No more value出させたわけでしょ? で、何を言ってるか分からない、なんでAIを買うのか分からないみたいなこと言ってて、で、そいつが今買うAIのなんかパイオニアがどうこうみたいなことを出してるっていうのは、明らかに頭おかしいと思うし、あの、残念ながらあなたたちの言っている、あの、買うAIというものは、ある特定の起こりうる近い未来に淘汰されます。 ================================= それはブロック経済の先にある、トランザクションだね。あの、要はトランザクションデータが完全にデータで追い切れるようになった状態になった瞬間に、お金はなくなる。だから買うAIもいなくなります。単純に需給の調整だけが起こるようになる。これ、何言ってるかまた分かんないかもしれないけれども。でもそれが旨味なんでしょ? プレゼンがうわ滑りしてるんでしょ? ================================= でもうわ滑りしてるって言ってる割には使ってるね、キーワード。気分いいわ。 えっと、というわけで、ある特定の起こりうる近い未来、ブロック経済という今ディープマインドが論文を出している、今66個世界にある、AIエージェントを中心とした経済圏というものは、ブロックチェーンの再登場によってトランザクション履歴を全て追い切れるようになった瞬間に、あの、通貨という指標の意味がなくなって崩壊し、意味を、意味をなさなくなります。残念ながら。 ということで、あなたたちが今からやろうとしていることは、短期的な小銭稼ぎであって、何の意味もありませんし、何の意義もありません。「残念でした」。 じゃあ、バイバイ。あ、あと、あの、なんだっけ、えっと、2人? えっと、民事訴訟するからよろしく。

Nobuyoshi Natsuhiko

104,175 просмотров • 1 год назад

いまのAIに決定的に欠けているのは、僕たちの背景を理解する能力だ。だから毎回プロンプトで関係性を組み立て、状況説明をし、欲しい出力へ誘導しなければならない。だが、その制約が外れ始めたとき、AIは単なる便利ツールではなくなるのだろう。その日はきっと、それほど遠くない。 サム・アルトマン「今のモデルは、将来そうなるものと比べれば、まだかなり愚かです。しかもそれ以上に、あなたの人生についての理解がきわめて限られています。今はまだ、こちらがうまく、なだめたりすかしたりしながら、欲しいものを引き出さなければならないのです。 ですが、あなたの文脈をすべて知っているようなモデルは、もうそれほど遠くありません。そのモデルは、あなたのことを知っている。あなたの人生を知っている。何をしているかを知っている。何を大事にしているかを知っている。あなたの人生にいる人たちのことも知っている。もちろん、あなたが望む形で、望む範囲においてですが、あなたのコンピュータやブラウザにもアクセスできる。そして時間がたつにつれて、現実世界であなたの周囲に起きていることにも、ますますアクセスするようになるかもしれません。 それは、コンピュータを使う感覚、そしてAIを使う感覚そのものを、完全に変えてしまうはずです。私はそれに強く興奮しています。ただ、実際それがどんな感覚になるのかは、私たち自身でさえ、まだ十分に直感できていないと思います」 グレッグ・ブロックマン「まさにその点ですが、今の私たちは、チャットでも何でも、使っているツールに対して『何が起きているのか』を説明するのに、ものすごく多くの時間を使っています。そしてそれがどれだけ苛立たしいかを考えてみてください。まるで同僚に対して、いや、私が欲しいのはこういうことで、今こういう状況なんだ、と延々説明し続けているようなものです。今のシステムの振る舞い方は、本来こうあってほしい姿ではないのです」

Tsubame

15,287 просмотров • 5 месяцев назад

「AIは真に理解しているのではなく、ただの記号操作にすぎないのではないか」と主張する人々がいる。だが、その問いは結局「人間の理解とは何か」という問いに跳ね返ってくる。ニューロン一個を見ても、そこに意味や意識はない。ならば、人工システムとの境界線は、どこに引けるというのだろうか。 ブライアン・コックス「これは(LLMは記号を操作しているだけで、本当の意味では何も理解していないという議論)、哲学者のサールにまでさかのぼる話だと思います。彼は昔、「記号を操作すること」について議論を提示していました。サールの議論ですね。それと似ています。 ただ、あるコンピュータ科学者はこう言いました。「いや、それをどう考えるにせよ、私たち人間もまさにそれをやっているのだ」と。つまり、私たちは自分たちが何なのか分かっていません。意識とは何なのかも分かっていません。ですから、私たちがやっていることも、結局それだけなのかもしれません。実際、細胞レベル、ニューロン一個のレベルでは、そこに「理解」はありません」 ニール・ドグラース・タイソン「うわ。それは言わないでください。そんなふうに考えたくない。信じたくないですね でも、そう言われてみると、あなたの口から音響刺激が発せられ、それが私の耳に入り、脳に到達する。そして私はそれを処理し、何らかの別の反応が出てくる。ひょっとすると、私は何も意識していないのかもしれません」 コックス「そう、あなたはただしゃべっているだけですよ」 ——「私はただの情報処理・応答マシンというわけですね。その可能性は十分あります」 コックス「そして、この議論は今まさにかなり活発に続いていると思います。しかも、何を話しているのか十分理解している多くの専門家たちの間でです。それでも意見が分かれている。つまり、それだけ複雑なのだということです。複雑な創発現象なのです」 ——「なるほど。それなら納得できます。だからこそ——これは神経科学者やコンピュータ科学者に限った話ではありませんが——AIの世界には、「十分な時間をかけてAIにあらゆるものを学習させ、十分な時間と計算能力を与えれば、AIは間違いなく本当に思考するようになる」と考える人が大勢いるのでしょう。つまり、私たちが「思考」と呼んでいるものと同じ意味で、AIも考えるようになるということですね」

Tsubame

20,225 просмотров • 22 дней назад