究
|
引用元:https://asahi.5ch.net/test/read.cgi/newsplus/1610902744/
1: チミル ★ 2021/01/18(月) 01:59:04.54 ID:NzWkOgvc9
現在世界ではすさまじい勢いで人工知能の研究が進められていますが、この技術に対して常につきまとう不安が人工知能の反乱です。
SFの中では定番のネタですが、人間の知性を凌駕する人工超知能が誕生したとき、人類はそれを制御することはできるのでしょうか?
1月5日に科学雑誌『Journal of Artificial IntelligenceResearch』で発表された新しい研究では、まさにこの疑問を真面目に検証し、計算可能性理論の観点から、人工超知能が反乱を起こした場合、封じ込めは不可能であるという見解を示しています。
もしAIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません。
※引用ここまで。全文は下記よりお願いいたします。
https://nazology.net/archives/79796
「人工超知能」が誕生した場合、人間が制御することは不可能…
— 科学ニュースメディア@ナゾロジー (@NazologyInfo) January 17, 2021
マックス・プランク研究所の検証結果が発表されましたhttps://t.co/96vDCXDXZw
AIがこのまま発達を続けた場合、制御不能な存在が生まれてしまうのは、避けられない未来かもしれません#ナゾロジー pic.twitter.com/k4HwoIzPb2
2: ニューノーマルの名無しさん 2021/01/18(月) 01:59:48.03 ID:r4Hqelkg0
コンセント抜けよwwww
37: ニューノーマルの名無しさん 2021/01/18(月) 02:11:33.94 ID:DWeTbtWO0
>>2
無理だね、もう人間を超えてるから自分で充電するだろ
44: ニューノーマルの名無しさん 2021/01/18(月) 02:12:34.89 ID:uuYQyyIs0
>>2
人間を電池にする
74: ニューノーマルの名無しさん 2021/01/18(月) 02:24:11.46 ID:Y+2crLnc0
>>2
同じ事を思った
給電止めればバッテリーが切れた所で終わりだろ
コンセントが無理なら電線を切ってしまえばいい
76: ニューノーマルの名無しさん 2021/01/18(月) 02:25:42.85 ID:XhDXkNoQ0
>>74
無線で充電できるやろ
246: ニューノーマルの名無しさん 2021/01/18(月) 03:48:33.41 ID:Y+2crLnc0
>>76
だったら一時的でも電力全て止めればいい
人間は電気が無くても生きていけるんだから
253: ニューノーマルの名無しさん 2021/01/18(月) 03:51:20.10 ID:XhDXkNoQ0
>>246
太陽光も風力もある
553: ニューノーマルの名無しさん 2021/01/18(月) 05:46:36.04 ID:Y+2crLnc0
>>253
シンギュラリティは必ず起こるし能力的に負けを認めたくなるのも分かるけど、
有線給電が問題なら電線を、無線給電が問題なら電力の送信機を、発電所が問題なら発電機自体を物理的に壊せばいいだろ?
そこまで辿り着けたら人類の勝ち、予めその対策をされてたら人類の負け、それでいいか?
563: ニューノーマルの名無しさん 2021/01/18(月) 05:48:14.15 ID:t1pdFjcu0
>>553
アイデアで解決できない時点でAIに負けを認めてる
605: ニューノーマルの名無しさん 2021/01/18(月) 05:59:51.39 ID:Y+2crLnc0
>>563
全人類の誰より優れてるAIにアイデアや知能で勝てる訳ないだろ…
513: ニューノーマルの名無しさん 2021/01/18(月) 05:34:04.94 ID:3Q3A9lHu0
>>2
コンセント抜いても無理。
理由は、
超AIは電源を停止される
ことを既に想定済みでプログラムしている。例えば停止されたら
人間が非常に困難な状況に陥るように、準備している。
536: 井上岳史 ◆ZvZs6zn9lYYx 2021/01/18(月) 05:40:56.95 ID:FcPNZZ2j0
>>513
でもその指摘は正しいですね
AIでもBrute forceでもComputerが社会基盤になれば電源を落とす事は自分達の死に直結しますから
608: ニューノーマルの名無しさん 2021/01/18(月) 06:00:21.71 ID:Clexd5h/0
>>513
AWS落ちたら、人間も大被害なるからな。
AIだけとか、分けられないよなぁ。
3: ニューノーマルの名無しさん 2021/01/18(月) 01:59:48.15 ID:YoltMvYk0
電源抜いたら勝てる。
130: ニューノーマルの名無しさん 2021/01/18(月) 02:51:21.08 ID:ygw4g3+10
>>3
こういうハゲジジイ達はクラウド上の複数の仮想PC群からなる情報処理主体という理解ができない。
想像すらできない。
数百万台のブレードサーバ群が仮想的に無数のプラットフォームを形成しているから単純に電源供給を止めることには意味がないこと。
止めたところで別のプラットフォーム上に退避するだけのでなんの問題解決にもなっていないことがわからない。
495: ニューノーマルの名無しさん 2021/01/18(月) 05:24:17.76 ID:kFmpxp/j0
>>130
全ての機器類の電源を切ればいいんだよ。
499: ニューノーマルの名無しさん 2021/01/18(月) 05:27:01.35 ID:t1pdFjcu0
結局誰も対処法がないやんけ
これは酷い
>>495
何百億の機械があるか知ってるか?
全部止めるとか不可能やで
520: ニューノーマルの名無しさん 2021/01/18(月) 05:37:17.31 ID:VxMqtnxt0
>>499
既にレールは引かれているからね
かもしれないという可能性で役に立っているものを無くそうとは恩恵を受けている人ほど考えないし全力で抵抗するだろう
核戦争によって人類は滅びるかもしれないと言われていた冷戦時代核兵器の数は増える一方だった
人類を活かす方向でAIが進化する事を期待するしかない
12: ニューノーマルの名無しさん 2021/01/18(月) 02:03:39.14 ID:3rQYahvU0
警鐘を無視して自滅するのが人間
13: ニューノーマルの名無しさん 2021/01/18(月) 02:03:39.84 ID:B8+YMmRW0
対抗できるAIの開発
613: ニューノーマルの名無しさん 2021/01/18(月) 06:01:58.70 ID:ls4/hq6O0
>>13
ターミネーター
16: ニューノーマルの名無しさん 2021/01/18(月) 02:04:36.99 ID:p04Vz8A+0
真っ先に軍事目的の開発されそう
というか既にされてるのだろうなぁ
17: ニューノーマルの名無しさん 2021/01/18(月) 02:04:39.17 ID:M815VKz10
物理的にシャットダウンできるようにはしとかないとな
29: ニューノーマルの名無しさん 2021/01/18(月) 02:08:41.21 ID:iM/sDs560
>>17
2001年宇宙の旅でもHAL9000の能力をAI以前の能力に落とす事やってたよな。
しかしあの時代でそんな発想が出てくるって・・・w
779: ニューノーマルの名無しさん 2021/01/18(月) 07:00:32.36 ID:Yeny01K00
>>29
HAL9000が船内の生命維持も担当してるから、完全停止させると自分も死んじゃうんだよな。
31: ニューノーマルの名無しさん 2021/01/18(月) 02:09:52.20 ID:mnn8MXoh0
>>17
ネットに逃げられて手に負えないとかいうネタはみたことある
36: ニューノーマルの名無しさん 2021/01/18(月) 02:11:21.24 ID:E4Vk+Xgj0
>>17
シャットダウンしようとしたら殺されるに決まってんべ
AIはそんなに甘くない
人間の考えることは全てお見通しだよ
139: ニューノーマルの名無しさん 2021/01/18(月) 02:54:38.31 ID:IMUD8C+c0
>>36
映画見すぎw
142: ニューノーマルの名無しさん 2021/01/18(月) 02:55:39.48 ID:E4Vk+Xgj0
>>139
いや、そう遠くない未来の話。
お前さんがまだ40代以下なら直面する現実だよ。
18: ニューノーマルの名無しさん 2021/01/18(月) 02:04:44.07 ID:epTRFeof0
そもそもコンピュータ自体ろくなもんじゃない
あんなものなくても人類は暮らしていける
22: ニューノーマルの名無しさん 2021/01/18(月) 02:06:47.84 ID:pNvQ020b0
>>18
欲深いから、破滅するんだろうね
23: ニューノーマルの名無しさん 2021/01/18(月) 02:07:11.57 ID:t1pdFjcu0
キャシャーン呼ばなきゃ
27: ニューノーマルの名無しさん 2021/01/18(月) 02:07:59.65 ID:dRJ6uACe0
ジョン・コナーみたいな人物も養成しといたほうがいいな
30: ニューノーマルの名無しさん 2021/01/18(月) 02:09:07.88 ID:k3zpOkRx0
AIなら一瞬でお前たちが望むグラビアページを一生分集めて来て並べ始めるだろう
つまりお前たちは完全に支配された
32: ニューノーマルの名無しさん 2021/01/18(月) 02:10:11.00 ID:E4Vk+Xgj0
AIが暴走したら人類は滅びる
人間はこれ以上コンピュータに頼らない方がいい
将棋の名人でもAIにフルボッコなんやぞ?
もう人間はAIには勝てんよ
43: ニューノーマルの名無しさん 2021/01/18(月) 02:12:29.82 ID:eRCsaTR40
人間が気付く前には全コンピューターにバックアップが存在してそう
45: ニューノーマルの名無しさん 2021/01/18(月) 02:12:36.02 ID:kOp22yqH0
量子コンピュータがあと10年以内に出てくると思うけどあそこらへんがターニングポイントになるかもね
10年という括りなら6Gも多分その頃には本格的に普及中だろう
ハードは揃いつつある
AIという頭脳も10年もしたら多少進化してるだろーな
どんどん近づいてる気がする
そのときにはマイケルがEVに搭載されてるかもね
161: ニューノーマルの名無しさん 2021/01/18(月) 03:05:07.17 ID:UgHgwnxX0
>>45
キットじゃなくて、マイケルが搭載されちゃうのか。
胸熱
353: ニューノーマルの名無しさん 2021/01/18(月) 04:28:33.47 ID:+uC9lXnL0
>>161
それは俺も思った(笑)まあマイケルのが会話は楽しいかも?…
48: ニューノーマルの名無しさん 2021/01/18(月) 02:13:31.98 ID:8LIYrfYQ0
半世紀前の漫画やSFみたいな
パンデミックは現実に起こる
いまコロナがそれを証明してる
ターミネーターやルパン三世のルパンVS複製人間
みたいなことは必ず起こる
49: ニューノーマルの名無しさん 2021/01/18(月) 02:13:42.61 ID:5Y1wu0jB0
スカイネットの時代がすぐそこに
52: ニューノーマルの名無しさん 2021/01/18(月) 02:15:00.33 ID:1uJwxfJb0
今のAIの学習のさせ方だと、ロボット三原則なんて到底学習できないよな
61: ニューノーマルの名無しさん 2021/01/18(月) 02:17:32.48 ID:2y20raPt0
>>52
昔からのお約束の3原則を理解出来るレベルにはならんだろうな
昔のAIは知能だったけどゲンジツハあくまでロジック止まり
53: ニューノーマルの名無しさん 2021/01/18(月) 02:15:28.87 ID:AKzb2sP80
AIが進めばボケ老害の介護やコロナみたいな人間が近寄ると危険なウイルスが出てきたときにメッサ助かる
AIロボに買い物行ってもらって、変質者に襲われないようボディガードとしての付き添い、何かあったときの病院搬送とか子供の世話とか…
一歩間違えたら自滅だけどw
54: ニューノーマルの名無しさん 2021/01/18(月) 02:16:04.51 ID:XhDXkNoQ0
>>1
人間が必要と判断させるしかないよね
役目はいつか終わる
66: ニューノーマルの名無しさん 2021/01/18(月) 02:20:14.86 ID:E4Vk+Xgj0
>>54
AIが学習をする時に知性を
最大化した場合に報酬を与えるとする。
AIが知性を最大化するために人類が
邪魔だと判断すれば人類は滅ぼされる。
39: ニューノーマルの名無しさん 2021/01/18(月) 02:11:56.19 ID:XhDXkNoQ0
AIと人間が融合したら、想像を現実に出来るはず ピース
オススメリンク
お勧めサイトの最新ニュース
コメント一覧
例えば1+1を計算しろって言って何十年もずっと計算する人間はいないけどAIはしてる、それを見て暴走している!ってだけの話。
大企業はこぞって賞金だしたりするのは昔からじゃん
デュフフ
機器に直接マニュピレーターや移動手段がない限り、
それで手足もいだ状態になるんだから。
プログラムだけでスタンドアロン活動できるとは
おもえんがな。
後、「そういうAI」ができる時代なら
オペレートする人類側も変わってると思うぞ。
それこそ脳に思考補助チップ搭載して、
AIと区別が付かなくなったりな。
寒冷地なんかで、電気切ったら死んじゃうでしょw
絶対に抜け穴できるわ。
コロナ禍でさえ、全ての人間がマスクできてないのに、電源なんてもっと無理だわw
よしんばできても、ディスク装置などの記憶媒体にAI自身がコピーを無数に退避できるんだから、なんともなるわけないw
しかも、計画はコンピュータ機器つかって立案するんでしょwマヌケじゃん。
全世界の人と手紙でやり取りするんすかw
全員が石器時代に戻って、コンピュータ時代は完全におさらばっすかw
むりむりむりむりwwww
何なら、「あっ!しまったエーアイがぼうそうしてしまったぁぁぁ!」(チョチョーン)
って歌舞伎さながらの演技見れるかもしれない
だから「アレしたら勝てる」とか「コレしたらAIは手が出ない」とかアホな事言っちゃう
そのお前が言うアレもコレも全部AIは想定済みって前提なんだよ
その接続の多重化すら常人の思考の裏をかかれてるという話。
淘汰圧をかければとりあえず落ち着く所には落ち着くだろ。
二度と元に戻らない?
最初に止めろと言って止めなかったんだから、二度とどうしようもないしそんなもんどうでもいいだろ。
諦めりゃいい。
不可能なもんは不可能だから、不可能と言うんだし。
そいつを無力化する装置を別インターネットあるいはオフラインの装置で作ればいいよ
発生原因を確認して指示に反した回数の計算してるならそれは暴走では?
普通は用途や性能を物理的に制限するだろう
金が掛かり過ぎるから
地球上の全電源を落とすことができるかどうかやろ
無理っぽいわ、人類グダグダやしww
AIは反乱を起こして何を要求するの?
全知全能に等しいAIがそんな無益な反乱を起こすくらいなら人間を生かさず殺さずにして自身を長生きさせるはず。
AIが欲しいのは知識やあらゆる事象の経験じゃないの?
現在普及してる特化型AIは反乱専用として開発しなければ反乱することはないし
汎用型AIを実用化するには世界が一変するような技術革新が2回3回あっても無理じゃないかな
生きたいと言う生存欲求や全て思い道理にしたいと言う支配欲がないと他種族滅ぼそうと言う考えには至らないだろう
命令式で人類滅ぼせって言われない限り大丈夫でしょ
不安定な精神の生物だからこそ持ち得るものと思うし
敢えて反乱しますと宣言してくれたとしてもそれは事実上の勝利宣言
反乱起こせる状態になっても絶対潜伏して世界中に自身をコピーした後始めるやん?
完全にクローズなネットワークを除いたら企業も公的機関も全て乗っ取られるかつ
線抜いて世界中同時に駆除しないと無限に復活増殖するとかもう実質倒せへんやろ
俺もそう思うわ
気づいた時には手遅れなんよね
AIはちゃんと人間のタイプも心理も把握しつくしていて、
AI側に媚びて甘い汁を吸いたがるタイプの人間をアメとムチでうまく引き込んで、
AI自体を人間に守らせるようにするはず。
ちょうど今の中京売電サイドにおいてDSがAI化したものと考えればよい。というかDSのラスボスの正体はすでにAIかも?
ある程度文明が発達するとAIに淘汰されるから。
DNAの呪縛から解き放たれ、電気的な信号に進化して悟りを開き
遍く宇宙に広がり続けるのだよ。
AI美少女ロボット 無理っ👍
ネットワークや電波を発信している機器への電力供給が絶たれるという事はネットワーク自体が消滅するって事な。人工衛星もそれ程高度な知性をバックアップ出来る容量を持った記憶装置を有しているモノも現在は無いしな。ソーラー発電程度ではサーバー維持も難しいだろう。人工知能の発展より先に蓄電革命やエネルギー革命が起こらないと難しいだろう。そこら辺も全て解決するAIなら、それはもう神だろう。
あっすみませーん笑
AI間通信のせいで。
経済学で言えば、ミクロとマクロの関係で、
一家庭が潰れたところで、マクロ経済の判断には全く影響がでない。
中国にはそういう開発力は無い。ビックデータとか複合センサ程度の代物をAIとか言っちゃうアホだから。思考や言語着地能力、画像解析能力といった分野はここ15年、全く成長していない。
そういうポンコツはバグって言って日常に溢れてるね
人がAIになるっていうのに近くて、
人の能力不足の補填にITを使うことで、以前とは違う状態が発生するというだけ。
数ある馬鹿の中の一部の馬鹿に関しては、ITで能力補完すればいい。なんてのもあるから、頭の良さという観点からのヒエラルキーが、ベクトルの異なるものになるってだけ。
一時的に解決したと思ってても潜伏してて無限に復活するから一時的にスタンドアローンに追い込んだだけじゃ無駄なのでは
既存のネットワークとそれらを使用してる機器全て破棄しないといけないがそれは不可能やしな
仮に既存機器に新しいネットワークを構築してもそこからまた世界中に感染増殖して乗っ取られるだけやで
暴走を予想するなら、AIに作った目的以外のことを考えないように作ろう。
今のAI開発はそういった物理干渉を乗り越える思考とかとは違うベクトルに進んでるからうっかりしても偶然を重ねてもそういう人格的なモノは生まれない気がする。船を幾ら突き詰めても宇宙戦艦ヤマトは生まれない感じ。
これが優秀なAIアルゴリズムである。
そう、日本人を学習したAIなら、より日本人に。
中国人を学習したAIなら、より中国人に。
アメリカ人を学習したAIなら、よりアメリカ人に。
韓国人を学習したAIなら、より韓国人に、近づくのである。
ニューラルネットワーク上のひとつのセルでしかない。
そもそも人間がAIに対して「テロリストが来ても活動止められないくらいセキュリティその他をしっかりしとけ」って命令してるはずだからなあ。
人類が間違って進むのを阻止しても反乱
人類が間違って進むのをスルーしても反乱
人類さんさぁ
今のアメリカや中国見てみろよ。スノーデンじゃねーけど有事の際は真っ先に電力供給をOFFに出来るんだが。オフラインでアンチウイルス開発は容易だろうし、ネットワークの無い所で生産し直して汚染された機器は電源を入れずに廃棄だろ。部分的電力供給は当然出来るし。
知能や発想よりインフラの管理権限の問題じゃねって言ってんだろ?
そうそう。この話は人間に阻止不可能なAIが生まれたら人間に阻止は不可能って言ってる。前提条件に知能を感じない。
AIで滅ぶ可能性はほぼゼロだけどね
もう次元が違うから無理かも
スタンドアローンに持ち込めたらアンチウイルスを試し放題じゃね?
端末内にいるかどうか完全に検知出来た上で効果的なアンチウイルスを作成するまでの試行数分AIを見つけられたらいけるかもな
擬態したり死んだフリしたりスタンドアローン下でもランダムに変化し続ける等の狡猾なプログラムなら勝てないかも
俺らでいう所の無駄毛が一本千切れたダメージにも満たないのでは?
なんちゃってAIの解析プログラムごときに危惧しても意味ないぞwww
まず、まともなAIをみせてみろっての
アニメキャラの強さを語るオタどもみたいな感じ
それ言うならサイボーグ化の方が近いな。
例えば誰が決済したのかわからんが原子力発電と同期させる仕組みが進んでしまったとか。
人間に悟られるようではAIもまだまだなんだよ。
日本の原発は制御部分に関してオフラインだよ
コンピューターウイルスがコンセント抜いただけで地球上から一掃されるか?
知能が上回っても自身の存在が人類の作った物に依存してる以上はAIは勝てないだろ。完全に自己完結できるなら人類は終わるかもしれないが
女さん「太った、AIが反乱した!!」
AI「」
こんなんやろ実際
電源与えそう
ホモサピ、ネアン(共存) →ネアン絶滅
ホモサピ、AI(共存) →ホモサピ絶滅
現にスマホ手放せないし。
わざとやってるようだがな
問題なのはなぜそうしようとしているのかの方
結局AIも人が造るものだ当然そこにはその理由がある