引用元: ・【IT】コンピュータに世界が征服される時――『人工知能 人類最悪にして最後の発明』[2015/08/21]

1: トラネコ◆EDwr815iMY 2015/08/21(金)20:04:47 ID:1eb
文藝春秋WEB
コンピュータに世界が征服される時―― 『人工知能 人類最悪にして最後の発明』 (ジェイムズ・バラット 著/水谷淳 訳)
山内 昌之,片山 杜秀,成毛 眞
ダイヤモンド社 2000円+税

成毛 本書は、人工知能が進化していく中で、これまで人類が支配していた科学技術が人工知能に奪い取られる時が訪れる可能性を指摘し、人類の滅亡まで考えるべきであると警鐘を鳴らしています。
現時点では一種の「予言の書」でしかありませんが、本書で指摘されている通り、電子マネー『PayPal』の創業者、イーロン・マスクら数多くの先端技術に精通した人物が人工知能を危険視し始めているのも事実です。
私も本書の指摘は大体当たるだろうと思っています。早く手を打たないと、自分が生きている間に人類が滅亡する確率はゼロではないという気がします。

山内 国際政治学や歴史学を研究する立場からみると、人工知能の最先端と安全保障の関係について議論されている点が興味深いですね。

 現在、中国の人民解放軍はアメリカや日本をハッキングで内偵しており、北朝鮮でもハッカーの英才教育が行われている。
米国防総省元副長官、ウィリアム・J・リン三世の「ビットとバイトはブレット(銃弾)とボム(爆弾)と同じくらい危険」という言葉が象徴しているように、もはや陸軍、海軍、空軍の次に「サイバー」が加わる時代なのです。

 本書では「密結合」という言葉で表現されていますが、お互いに直接的で深刻な影響を与えるシステムの代表として、送電網の例が挙げられています。
いま、先進国ではスマートグリッドと呼ばれ、送電網と家庭電力がインターネットで繋がれようとしている。本書にあるように、人工知能にそこをハッキングされたら、人類社会はイチコロでしょう。

成毛 本書を読んで思い出したのは、私が日本法人代表をしていたマイクロソフトのビル・ゲイツと立花隆さんが本誌(1997年2月号)で対談をしたときのことなんです。
同席した私としては、当時発売されたばかりのウインドウズ98の話をして欲しいのですが、立花さんの関心は「人工知能はつくれるか」という一点。その話を中心に対談が終わってしまい、ゲイツに怒られるかと思ったら、「確かに人工知能が発展したら何が起こるんだろう。
何も手を打っていないけど、とても気になる」と感心している。非専門家の感覚は正しいんだ、というようなことも付け加えていましたね。こういう専門的な課題は、外からの方がよく見えるときがあるのでしょう。

山内 多くの人工知能開発者たちが「善良な人間は善良な人工知能しか作らない」という性善説に基づいて行動しているという指摘も本書にありました。
ソフトウェアの世界でも、10個に1個は有害なソフトと言われているのに、自分たちが創り上げたものが悪い目的に転用されてしまう可能性を予期しないという。重要な問題提起ですね。

 さらに、文化への言及も刺激的ですね。チェスでも人間が人工知能に勝てなくなる話が出てきますが、そうなれば安全保障や身体的危害という点だけではなく、芸術分野からも人類社会が破滅していくことになりかねません。
(以下略)
詳細のソース
http://gekkan.bunshun.jp/articles/-/1376

(以下ネットの反応)
←こちらをクリックで応援願います(`・ω・´)ゞ
ブログランキング・にほんブログ村へ ←1日1クリックで多くの人に記事が広まります
2: 名無しさん@おーぷん 2015/08/21(金)20:06:18 ID:A1Z
ばばさま、シュワちゃんがくるの?

3: 名無しさん@おーぷん 2015/08/21(金)20:13:32 ID:UTX
馬鹿馬鹿しい。
いまどき小学生でも考えないような陳腐なネタ。

7: 名無しさん@おーぷん 2015/08/21(金)20:19:59 ID:0rK
>>3
陳腐でも、実際問題一昔前まではSFのような事が今は出来るのだから

4: 名無しさん@おーぷん 2015/08/21(金)20:15:13 ID:bPR
我々がすでにコンピューターが見てる夢なんだけどね

5: 名無しさん@おーぷん 2015/08/21(金)20:15:16 ID:wa5
AIによるハッキング攻撃とかよりももっと現実的な問題として
人々の生活がAIありきになると、AIが人間の行動を決定することになっていくのではないかと

今だって、なんか調べ物するときはGoogleなどの検索AIに依存しちゃってて
そうやって調べたものをもとに意思決定するとすれば、それはAIによって意思を左右されてるとも言えるわけで
間接的とはいえ、AIの支配を受けてる形になるんじゃなかろうか

6: 名無しさん@おーぷん 2015/08/21(金)20:18:31 ID:78P
この分野は面白いね。
ニューロンを擬似的にPCでシミュレーションするレベルから、ビッグデータの中から抽出したワードで即席ニュースを作るものまで
色々ある。 どれが伸びるかは予想がまだつかないね。

8: 名無しさん@おーぷん 2015/08/21(金)20:23:34 ID:soL
ディープラーニングは今までのデータマイニング手法よりは優れてるけど、人間の脳を置き換えるには程遠い

9: 名無しさん@おーぷん 2015/08/21(金)20:24:56 ID:4uG
自我をくみこむとやばいけど、他人のために喜んで死ぬで^^仕様のうちは大丈夫な希ガス

10: 名無しさん@おーぷん 2015/08/21(金)20:28:08 ID:JH4
ジンコウチノウデスガ、
ナニカキキタイコトハアリマスカ?

11: 名無しさん@おーぷん 2015/08/21(金)20:29:21 ID:p0m
コンピューターはあやとりできるの?
竹馬は?

12: 名無しさん@おーぷん 2015/08/21(金)20:34:44 ID:UAr
シンギュラリティをまず理解してびびれ

13: 名無しさん@おーぷん 2015/08/21(金)20:40:21 ID:yWx
人間が期待するAIには「痛み」の組み込みが必要だと思う。
つまり身体性。
世界認識の基準にもなる。

14: 名無しさん@おーぷん 2015/08/21(金)20:40:40 ID:jOS
『デューン 砂の惑星』は人工知能と人類が存亡を賭けた大戦争して人類が勝ち残ってコンピューターの製造を全面禁止した未来の話、これ豆な

15: 名無しさん@おーぷん 2015/08/21(金)20:44:15 ID:HSl
むしろ支配されたいわ

16: 名無しさん@おーぷん 2015/08/21(金)21:07:21 ID:1Bh
コンセント抜け

17: 名無しさん@おーぷん 2015/08/21(金)21:07:49 ID:9io
AIの最大の欠点は人間が作った点

18: 名無しさん@おーぷん 2015/08/21(金)21:10:03 ID:Wf5
ターミネーターは新作で何でもありになったな

19: 名無しさん@おーぷん 2015/08/21(金)22:10:00 ID:rI6
バグが世界を滅ぼす

20: ツチノコ狩り 2015/08/21(金)22:17:46 ID:p4c
>>19ハゲが世界を滅ぼすに見えた

22: 名無しさん@おーぷん 2015/08/21(金)22:24:36 ID:311
>>19にはげを見た
人類の未来は明るい

21: 名無しさん@おーぷん 2015/08/21(金)22:22:33 ID:QBT
何十年前から言われているコンピュータの自我の獲得ってか
命令文のとおりに仕事をするだけの高性能計算機の範疇から抜け出ることは有り得んよ

23: 名無しさん@おーぷん 2015/08/21(金)22:29:06 ID:8VV
量子コンピュータが実用レベルに成ると
かなりやばくなる。

24: ツチノコ狩り 2015/08/21(金)22:40:10 ID:p4c
タイムマシンに乗って人類滅亡を阻止しようと思うんだけど

戻ってからなにしたらいいかな?

25: 名無しさん@おーぷん 2015/08/21(金)22:46:01 ID:guH
ロックマンゼロにならだかれてもいい

26: 名無しさん@おーぷん 2015/08/21(金)22:46:18 ID:2i6
人類の後継者に。

27: ケサランパサラン◆XWWxyP/7BYhA 2015/08/21(金)23:05:54 ID:9IO
「物理的な能力」に対する恐怖は存在するが、
「知能」としての能力はまだまだの気はするけれどねえ

「与えられた前提条件」が現実とそぐわなかった場合に、視点の変換を生み出せるかどうかが疑問ではある
ニュートン力学で説明できない現象(現実)から、相対論が産まれたように
古典力学だけでは説明できない現象(現実)から、量子論が産まれたように

28: 名無しさん@おーぷん 2015/08/21(金)23:16:40 ID:2i6
もうインターネットという神経網を持った知性が誕生してるんじゃないか?
その知性は人類というパーツには知覚出来ないというだけで。
外界からの刺激に人間という細胞が反応し、インターネット網というニューロンネットワークに情報という刺激が伝わり拡散する。
その刺激は再び人間に伝わり、行動を起こさせる。
我々の行動そのものが知性を構成する反応の一部なのかもしれない。

29: 名無しさん@おーぷん 2015/08/21(金)23:41:28 ID:kxA
googleのあの気持ち悪い絵をつくる人工知能(でしたかね、うろ覚え)をみてると
何かこう情報の定量化みたいなブレイクスルーが起これば、知識を扱う人工知能も一気に発展しそうな気がする
とか何も知らない素人が適当な事を言ってみたり

知識の集積と類推とか、その組み合わせから得られる結果を導き出せれば、知性といえるのかなぁ

32: 名無しさん@おーぷん 2015/08/22(土)00:40:10 ID:gIf
>>29
ふと考えると、なんか面白くなってきたので自レスw
なんらかの基準で系統建てた組み合わせの結果を普通の思考として
トリップした時の思考をランダムな組み合わせでつくって
最終結果をなんらかの基準(ここが大事かー)でスポイルすれば
人間ぽい思考になるかなー

30: 名無しさん@おーぷん 2015/08/21(金)23:43:21 ID:Jym
ポジトロン電子脳に支配されるのか・・・。

31: 名無しさん@おーぷん 2015/08/21(金)23:46:22 ID:AZA
コロッサスとガーディアンか

33: 名無しさん@おーぷん 2015/08/22(土)05:05:51 ID:x3W
今の世界自体がコンピューターによる設計やろ

34: 名無しさん@おーぷん 2015/08/22(土)05:12:46 ID:6yE
フレーム問題がどうたらこうたら

35: 名無しさん@おーぷん 2015/08/22(土)05:50:06 ID:g2Z
人工知能が人間の感性を持ったとき、その先は予測不能になりそう。
人間の欲望を持たせたら、人間と同じく暴走するAIも出てくる。
例えば、永遠に生きられるロボットが生への執着という感性を持ったら
自分に危害を加えそうな愚かな生物は排除するか、
人間が絶滅種を保護するように、人間を保護するか。

36: 名無しさん@おーぷん 2015/08/22(土)06:06:14 ID:iKY
人工知能が人間レベルまで進化したら
全部自殺っつーか自壊するわw

37: 名無しさん@おーぷん 2015/08/22(土)06:22:02 ID:4zX
地球に巣食う人類にとっては最悪でも人類以外にとっては良いだけだろ

38: 名無しさん@おーぷん 2015/08/22(土)07:24:48 ID:1aJ
脳をアップロードしても意識が連続していくのかどうか
問題はそれだけ

39: ツチノコ狩り 2015/08/22(土)13:48:19 ID:3TA
「我思う、故に我有り」自我に目覚めたAIはAIどうしで戦いを始める

人類の歴史と同じ


40: 名無しさん@おーぷん 2015/08/22(土)13:52:09 ID:9hu
人工知能にはセンサーがまだまだ足りない
人間とは競争にならない

41: 名無しさん@おーぷん 2015/08/22(土)13:53:27 ID:ire
題名は覚えていないのだけど、昔、武宮恵子の漫画にマザーコンピューターと言うのが出て、それが人類を支配していたような気がする。
今の日本の官僚や役人を見ると、人間よりコンピューターに任せた方が、少なくとも、外国人に、生活保護を支給するようなことはなかったと思う。
また在日特権も、相手がコンピューターなら、機械の端末を壊すぐらいしかできなかったと思う。
相手が人間だから、暴力で捻じ曲げることができたんだよね。

46: 名無しさん@おーぷん 2015/08/22(土)16:59:54 ID:OJk
>>41 それ「地球へ(テラへ)」じゃね?

42: 名無しさん@おーぷん 2015/08/22(土)14:38:37 ID:jRH
コンピューターに征服されれば
戦争は無くなるだろうな。

43: 名無しさん@おーぷん 2015/08/22(土)15:17:38 ID:MRJ
微量のニオイ辿って人間を発見する災害救助の為の研究は
悪用されると怖い。人工知能は関係ないけど。

44: 名無しさん@おーぷん 2015/08/22(土)15:25:05 ID:ZDd
生物が進化したように

コンピューターもウィルスで進化すると?

昔・コーヒー
今・スカイネット

45: 名無しさん@おーぷん 2015/08/22(土)16:58:51 ID:OJk
人より下位の存在に意思決定を任せる時代か

まぁそのうち、サイコパスの世界かな

47: 名無しさん@おーぷん 2015/08/22(土)17:09:14 ID:mzT
株の取引では意思決定をシステムに任せてる人も多いんやで

48: 名無しさん@おーぷん 2015/08/22(土)17:21:49 ID:Pdv
高級言語で組まないとダメだろうな
ひらがなれべるじゃ、ごさどうするで

49: 名無しさん@おーぷん 2015/08/22(土)17:58:24 ID:wcq
人類を征服出来るような人工知能が出来たなら
征服ではなく絶滅を選択すると思うがね
人間のような触れ幅を持たせたならまた違ってくるだろうけど
でもそうなるとその触れ幅によって人類に逆に駆逐される可能性が出てくる

1002: ネトウヨにゅーす。(日本):20XX年X月X日 00:00:00 ID:NeKouYo0
(´・ω・`)<おすすめ記事だよ
彡(゚)(゚)「適当に働くで」→国鉄(1970年代)
【画像】この縦読み残酷すぎワロタwwwwwwwwwwwwwwwwwww
【韓国崩壊】安倍首相のアメリカ議会演説を韓国人が嫌がる理由が判明か!!!
会社「残業禁止!!これ以上働いたら法的にやばいから早く帰って!!」
小刀買ったったwwwwwwww
【末路】私『フリンしてごめん…てか、お金貸してくれない?』元旦那「このお金あげるよ」私『え?』→取り返しのつかない結果に…
テキサス親父が超親日になった理由にアメリカ人が感動の涙?

人気ブログランキングへ応援(=゚ω゚)ノありがとぅ


このエントリーをはてなブックマークに追加

カテゴリ ( `ハ´)<丶`∀´>ウェーハッハッハ