AI運用を危険視する！ ブラックボックス胡散臭いぜ

AIというのは意思決定する経緯を人間にはわからないプロセスを内包する
ブラックボックスである

さて先日、韓国が政治決定をAIに任そうというアイディアを出したそうだ
そこで例えば慰安婦問題に合理性があるという答えをAIが導き出すのか
それともなんらかの誘導においての答えを普遍的な答えとして責任者不在（AIの決定）のまま
世界に認知させてしまうのか

これは一例として述べたが、例えば刑事捜査においてのDNA鑑定なども技術自体の精度が上がっても
これの運用を誤ると、冤罪を強化してしまう事にもつながるわけである

AIは未知の壮大な可能性のある技術であるが、例えば人類の歴史を見た場合
アポロが月面着陸をしたという壮大な嘘を長い期間信じ込まされてきた（多分ｗ
しかしその一躍を担ってきたNASAは現在なかばオカルト機関の様を呈してきてるといってもあながち間違いではないだろう

そのツテを人類が再び踏まない為にも、この未知なる壮大な技術の運用に対して
警戒の意識もある程度持つべきだと考える

ここで断っておきたいのは技術自体の事ではなくあくまで運用面の危険視という事
ちょっと長くなりましたが、あらゆる意見をどしどし求めたいですね！
よろしくお願いします

返信する

俺の建てたスレにも少しはコメントをくれ。

http://bbs56.meiwasuisan.com/discussion/1498499953/l5...

返信する

AIに政治を任せるというのは賢明な手段だと思う。
既にシンガポールでもそういうシステムの導入が検討されてる。
また銀行員とか監視システムにもAIを導入している。不正を行いそうな人をAIで監視してる。

政治ってのは様々な団体の利益と複雑に絡みあうから、既得権を巡って、間違った選択がよく起こる。
その国全体が一番潤う方法をAIに、偏見や癒着無く判断してもらうのは良い方法。

ただその先に一つとても気をつけなればならない事がある。それは国の外交の問題。
一つの国のシステムをAIに委ねても世界全体をまとめるAIは無い。
そうなると国対国となった場合、それは完全にAI　VS　AIの構図になる。
自国の利益を最大化させる事が目的なら、容易に他国から搾取するという方法を思いつくはずだ、
その最たる手段が戦争になる。AI同士が指導するの戦争なんて目も当てられないだろ。

返信する

今ＡＩと呼ばれているのはディープラーニングという手法で答を導き出す演算方法の一つ。
昔の国王が戦争をしたとき、戦法を策士に練って貰ってから行動に移したが、
その策士が今ＡＩと呼ばれている機械に当たるんじゃないか？
どんなに優れた策士であっても、国王には換えの効く駒に過ぎない。
ＡＩを10台並べて得た答であっても、選択するのは人。

返信する

そうなんです
私が危惧してるのも、AIに普遍的な回答を求めるはずが
なんらかの恣意的なファクターによってそれが捻じ曲げられる事
もしも、そういう事が起こるのならば
AIに頼る事に何の意味も無いのじゃないかと思うわけです
もちろんこれは政治的な要素が絡んできた場合に限っての事ですが

返信する

AIの恣意的運用を危惧する理由がわからん。
現状が既に権力者の恣意的治世なのに。
現状で既に借金まみれの人が、「こういう制度が出来たら借金しやすくなって危険じゃないか」と言っているような滑稽さなんだけど。
AI運用より先に人間の運用を危惧しなさいよ。AIに対する危惧はその後でしょうよ。

それと、>>1にはツッコミ所が多すぎてアレだけど、その中でも特に「そのツテを人類が再び踏まない為にも」って。
「ツテ」じゃなく「テツ」だから。「轍」だから。
ワザとかも知れんけど程度の低いアレだわ〜。
ほんっと程度の低いアレだわ〜。

返信する

AIゆえに！

返信する

>>6
理解されてるようです
まさにそれ
人間の運用次第で結果を操作できるのであれば
全てをAIのせいにして責任者不在のままで何もかもが決められてしまうだろうという事態を危惧してる分けです
捕捉感謝です

返信する

ただね、AIの意思決定の方が、政治の意思決定よりもよほど公然としている可能性は高いと思う。
とにかく政治家は嘘と方便を使いまくるし、重要な話は公の場では出来ない事も多い。国のシステムの中で意思決定が見えにくく作られている所が多々ある。

じゃあAIはどうか。重要なことはAIは容易にコピー可能と言うこと。AIの意思決定に対して同じ様なAIを有する機関が監視すると言うのは十分考えられる。
一つのブラックボックスではなく、AIは様々なレベルで、様々なバージョンの物が登場し運用されるだろう。
それこそがAIの強みの一つでもある。

返信する

AIが死ね言うたら死ぬんか。
どんな政治権力にも左右されない優秀で進歩的なAIが、「人類ハ地球ニハ不要デス」言うたら唯々諾々と従うんか。
そうでないなら結局、一つの意見に過ぎないやろ。最終的に判断するのは人間やろ。取捨選択して恣意的に判断するのは結局人間やろ。
どこまで未来に行ったってそれは変わらんやろがい。

そう言えば手塚治虫の火の鳥に、世界に数か所スーパーコンピューターがあって、それに従って戦争を起こそうとする人間の姿が描かれていたな。

返信する

AIを誰が管理監督するかで選挙始めちゃったりして本末転倒になりそうな

返信する

ディープラーニング以降のAIはこれまで人類が接したことのないレベルの道具である。
そしてそのAIは権力やシステムの独占、一極集中を促すか？というとおそらくその逆だろう。

むしろAIは様々な権利、能力の分散を促進する。これは歴史上、民衆が権利を勝ち得てきた事の延長では無いのかな？
特殊な業界や専門性の高い職業、それを駆使する一部の人間や団体が、既得権益をこさえ銭が流れるシステムを固持しようとする。

しかしAIは明らかにその牙城を崩す。専門家しか出来なかった事を、何時でも誰でも、直ぐに使えるようにしてくれるのがAIだ。

返信する

>>12
＞これは歴史上、民衆が権利を勝ち得てきた事の延長では無いのかな？

それは希望的観測に過ぎるだろう。自分でも「これまで人類が接したことのないレベルの道具」と言っているじゃないか。
どの方向に動くかは「予想できない」というのが正しい予想だろう。
「権利を勝ち得てきた事の延長」である可能性もゼロでないことは認めるが、数字的には残りの可能性の方が大きすぎて比較にならない。

例えば、機械的発想の基本に「効率化」がある。
宗教的思想の「聖地」にこだわり、民衆が一か所に集中し支障をきたすような人類の営み
(つまりメッカを獲りあって争ったり、伊勢の神宮や大神山のように開発不可地域をつくったり)を認めない可能性がある。
メッカに集中する人々を散らし、伊勢の鎮守の森を整地・開発しろと言うかもしれない。
「墓」などという非論理的な施設に広い土地を使うよりも、そこを有効利用せよというかもしれない。

更に言えば、「家族」などという制度を解体し、子供や老人は社会として一括管理するという方向に行くかもしれない。

以上はしょせん人間の発想だが、それを越える意外な効率化が人類に命令されるかもしれない。
その命令を見た時、人類が受け入れがたい時、AIと人類との軋轢が生まれる。

返信する

>数字的には残りの可能性の方が大きすぎて比較にならない。

申し訳ないが俺はそうは思わない。AIの今後の可能性については、俺達はAIではないから具体的な数字は出せないｗ
それぞれが予想を述べてどっちが論理的に可能性が高そうか？それぞれが判断するしか無い。

君の危惧している事は、それこそAIが自我を持って命令を下している様な話じゃないか。
未だAIは自我とは程遠い。AIはビッグデータを与えて最適解を導き出す、今のところそれ以上の仕事はしない。
正直オレは自我をもってもらってもかまわないと思ってるが、自律的に動くAIと道具のAIじゃ少し乖離が激しい。

例えば個々人の幸福度を指標として、それが最良になるようにAIを用いたならそな無茶な最適解は出るはずがない。
効率を重視するも幸福度を重視するも選ぶのは人間。

返信する

>>14
感覚的にはわかるが、おそらく「自我」というものをオカルト的に捉えているよ。
物理的に言えば、自我なんてものは程度の差こそあれ「入力に対する出力」でしかない。
そう言う意味では、AIは既にAIなりの自我らしきものを持っていると言って良い。
もう少し変数(つまり個体差)が大きくなれば、ペッパー君ですら自我・個性があると言えるようになる。
SF的な「人類の敵であるAI」をイメージすると滑稽だが、効率化と言う意味においては「人類の貴重な精神的遺産」は省かれざるを得ない代表的なものになる。
それを許容できるかどうかが人類の「真に効率的な進歩」の分水嶺であり、許容できない様であればどれほどAIが進歩しても結局人間の治世と変わらないという事。

前出の例で言えば、墓などは既に人類の中でも概念が変わりつつある。
マンション型の墓や、ネット上の墓参りなどがその好例。
今現在の人類が受け入れがたくても、将来的にAIの提言(例えば墓地を廃止する、等)を受け入れられるなら人類にも発展的未来がある。

返信する