AI運用を危険視する！ ブラックボックス胡散臭いぜ

AIというのは意思決定する経緯を人間にはわからないプロセスを内包する
ブラックボックスである

さて先日、韓国が政治決定をAIに任そうというアイディアを出したそうだ
そこで例えば慰安婦問題に合理性があるという答えをAIが導き出すのか
それともなんらかの誘導においての答えを普遍的な答えとして責任者不在（AIの決定）のまま
世界に認知させてしまうのか

これは一例として述べたが、例えば刑事捜査においてのDNA鑑定なども技術自体の精度が上がっても
これの運用を誤ると、冤罪を強化してしまう事にもつながるわけである

AIは未知の壮大な可能性のある技術であるが、例えば人類の歴史を見た場合
アポロが月面着陸をしたという壮大な嘘を長い期間信じ込まされてきた（多分ｗ
しかしその一躍を担ってきたNASAは現在なかばオカルト機関の様を呈してきてるといってもあながち間違いではないだろう

そのツテを人類が再び踏まない為にも、この未知なる壮大な技術の運用に対して
警戒の意識もある程度持つべきだと考える

ここで断っておきたいのは技術自体の事ではなくあくまで運用面の危険視という事
ちょっと長くなりましたが、あらゆる意見をどしどし求めたいですね！
よろしくお願いします

返信する

俺の建てたスレにも少しはコメントをくれ。

http://bbs56.meiwasuisan.com/discussion/1498499953/l5...

返信する

AIに政治を任せるというのは賢明な手段だと思う。
既にシンガポールでもそういうシステムの導入が検討されてる。
また銀行員とか監視システムにもAIを導入している。不正を行いそうな人をAIで監視してる。

政治ってのは様々な団体の利益と複雑に絡みあうから、既得権を巡って、間違った選択がよく起こる。
その国全体が一番潤う方法をAIに、偏見や癒着無く判断してもらうのは良い方法。

ただその先に一つとても気をつけなればならない事がある。それは国の外交の問題。
一つの国のシステムをAIに委ねても世界全体をまとめるAIは無い。
そうなると国対国となった場合、それは完全にAI　VS　AIの構図になる。
自国の利益を最大化させる事が目的なら、容易に他国から搾取するという方法を思いつくはずだ、
その最たる手段が戦争になる。AI同士が指導するの戦争なんて目も当てられないだろ。

返信する

今ＡＩと呼ばれているのはディープラーニングという手法で答を導き出す演算方法の一つ。
昔の国王が戦争をしたとき、戦法を策士に練って貰ってから行動に移したが、
その策士が今ＡＩと呼ばれている機械に当たるんじゃないか？
どんなに優れた策士であっても、国王には換えの効く駒に過ぎない。
ＡＩを10台並べて得た答であっても、選択するのは人。

返信する

そうなんです
私が危惧してるのも、AIに普遍的な回答を求めるはずが
なんらかの恣意的なファクターによってそれが捻じ曲げられる事
もしも、そういう事が起こるのならば
AIに頼る事に何の意味も無いのじゃないかと思うわけです
もちろんこれは政治的な要素が絡んできた場合に限っての事ですが

返信する

AIの恣意的運用を危惧する理由がわからん。
現状が既に権力者の恣意的治世なのに。
現状で既に借金まみれの人が、「こういう制度が出来たら借金しやすくなって危険じゃないか」と言っているような滑稽さなんだけど。
AI運用より先に人間の運用を危惧しなさいよ。AIに対する危惧はその後でしょうよ。

それと、>>1にはツッコミ所が多すぎてアレだけど、その中でも特に「そのツテを人類が再び踏まない為にも」って。
「ツテ」じゃなく「テツ」だから。「轍」だから。
ワザとかも知れんけど程度の低いアレだわ〜。
ほんっと程度の低いアレだわ〜。

返信する

AIゆえに！

返信する

>>6
理解されてるようです
まさにそれ
人間の運用次第で結果を操作できるのであれば
全てをAIのせいにして責任者不在のままで何もかもが決められてしまうだろうという事態を危惧してる分けです
捕捉感謝です

返信する

ただね、AIの意思決定の方が、政治の意思決定よりもよほど公然としている可能性は高いと思う。
とにかく政治家は嘘と方便を使いまくるし、重要な話は公の場では出来ない事も多い。国のシステムの中で意思決定が見えにくく作られている所が多々ある。

じゃあAIはどうか。重要なことはAIは容易にコピー可能と言うこと。AIの意思決定に対して同じ様なAIを有する機関が監視すると言うのは十分考えられる。
一つのブラックボックスではなく、AIは様々なレベルで、様々なバージョンの物が登場し運用されるだろう。
それこそがAIの強みの一つでもある。

返信する

AIが死ね言うたら死ぬんか。
どんな政治権力にも左右されない優秀で進歩的なAIが、「人類ハ地球ニハ不要デス」言うたら唯々諾々と従うんか。
そうでないなら結局、一つの意見に過ぎないやろ。最終的に判断するのは人間やろ。取捨選択して恣意的に判断するのは結局人間やろ。
どこまで未来に行ったってそれは変わらんやろがい。

そう言えば手塚治虫の火の鳥に、世界に数か所スーパーコンピューターがあって、それに従って戦争を起こそうとする人間の姿が描かれていたな。

返信する

AIを誰が管理監督するかで選挙始めちゃったりして本末転倒になりそうな

返信する

ディープラーニング以降のAIはこれまで人類が接したことのないレベルの道具である。
そしてそのAIは権力やシステムの独占、一極集中を促すか？というとおそらくその逆だろう。

むしろAIは様々な権利、能力の分散を促進する。これは歴史上、民衆が権利を勝ち得てきた事の延長では無いのかな？
特殊な業界や専門性の高い職業、それを駆使する一部の人間や団体が、既得権益をこさえ銭が流れるシステムを固持しようとする。

しかしAIは明らかにその牙城を崩す。専門家しか出来なかった事を、何時でも誰でも、直ぐに使えるようにしてくれるのがAIだ。

返信する

>>12
＞これは歴史上、民衆が権利を勝ち得てきた事の延長では無いのかな？

それは希望的観測に過ぎるだろう。自分でも「これまで人類が接したことのないレベルの道具」と言っているじゃないか。
どの方向に動くかは「予想できない」というのが正しい予想だろう。
「権利を勝ち得てきた事の延長」である可能性もゼロでないことは認めるが、数字的には残りの可能性の方が大きすぎて比較にならない。

例えば、機械的発想の基本に「効率化」がある。
宗教的思想の「聖地」にこだわり、民衆が一か所に集中し支障をきたすような人類の営み
(つまりメッカを獲りあって争ったり、伊勢の神宮や大神山のように開発不可地域をつくったり)を認めない可能性がある。
メッカに集中する人々を散らし、伊勢の鎮守の森を整地・開発しろと言うかもしれない。
「墓」などという非論理的な施設に広い土地を使うよりも、そこを有効利用せよというかもしれない。

更に言えば、「家族」などという制度を解体し、子供や老人は社会として一括管理するという方向に行くかもしれない。

以上はしょせん人間の発想だが、それを越える意外な効率化が人類に命令されるかもしれない。
その命令を見た時、人類が受け入れがたい時、AIと人類との軋轢が生まれる。

返信する

>数字的には残りの可能性の方が大きすぎて比較にならない。

申し訳ないが俺はそうは思わない。AIの今後の可能性については、俺達はAIではないから具体的な数字は出せないｗ
それぞれが予想を述べてどっちが論理的に可能性が高そうか？それぞれが判断するしか無い。

君の危惧している事は、それこそAIが自我を持って命令を下している様な話じゃないか。
未だAIは自我とは程遠い。AIはビッグデータを与えて最適解を導き出す、今のところそれ以上の仕事はしない。
正直オレは自我をもってもらってもかまわないと思ってるが、自律的に動くAIと道具のAIじゃ少し乖離が激しい。

例えば個々人の幸福度を指標として、それが最良になるようにAIを用いたならそな無茶な最適解は出るはずがない。
効率を重視するも幸福度を重視するも選ぶのは人間。

返信する

>>14
感覚的にはわかるが、おそらく「自我」というものをオカルト的に捉えているよ。
物理的に言えば、自我なんてものは程度の差こそあれ「入力に対する出力」でしかない。
そう言う意味では、AIは既にAIなりの自我らしきものを持っていると言って良い。
もう少し変数(つまり個体差)が大きくなれば、ペッパー君ですら自我・個性があると言えるようになる。
SF的な「人類の敵であるAI」をイメージすると滑稽だが、効率化と言う意味においては「人類の貴重な精神的遺産」は省かれざるを得ない代表的なものになる。
それを許容できるかどうかが人類の「真に効率的な進歩」の分水嶺であり、許容できない様であればどれほどAIが進歩しても結局人間の治世と変わらないという事。

前出の例で言えば、墓などは既に人類の中でも概念が変わりつつある。
マンション型の墓や、ネット上の墓参りなどがその好例。
今現在の人類が受け入れがたくても、将来的にAIの提言(例えば墓地を廃止する、等)を受け入れられるなら人類にも発展的未来がある。

返信する

実は先日見たテレビ番組での羽生善治氏の｢AIはブラックボックスだが・・・｣
という言葉に触発されてこのスレッドを立てました

個人的な直感知としてだけど羽生氏も同じ危惧をもってるんじゃないかと
影響力の強い氏が言いにくい事を勝手に代弁したつもりもあります

返信する

>>15
「真に効率的な進歩」
将来的にAIの提言(例えば墓地を廃止する、等)を受け入れられるなら人類にも発展的未来がある。

ということは、君はAIを積極的に取り入れるべきと言っているのかな？
拒否する人間と、導入を推進する人間で軋轢、混乱が起きると危惧しているのか？

返信する

単なる規模のでかい演算処理装置なだけのものを
神の言葉であるかのように絶対不可侵の権威付けをして
その影で説明可能なホワイトボックスまでにもブラックボックスであると逃げ口上で乗り切り
ヤラセや利益を貪ろうとする輩がでてこないかが心配だよね
そこに前もって釘を刺して置くというのは意味があると思う

返信する

実際のところはホワイトボックスだけど、なぜそうなのか理解しようとするとブラックボックスになる。
膨大なデータからAIは独自に法則性、関連性を見出すに過ぎないのだが、なぜそうなるかは教えてくれない。

しかし実のところ人間も同じようなことをしていると思う。
特定分野のエキスパートなんかは、それはそれは感覚的に物事を見ている事が多い。
それまでに接してきた膨大な情報から、ピンとくる、勘のようなものを頼りにすることが多いのだが、
なぜそうなんだと聞かれると、経験からこのパターンにはこうなんだよ。としか答えない。
特に感性で生きてる人間は説明が超下手な場合も多いし。

で結局その背後にどんな理論が隠れているのかと言うと、エキスパートなりの仮説くらいしか存在しない。
しかし仮説でも説明されると人間はなんとなくふ〜んと納得してしまう。
今のところ仮説を立て、説明を試みるのは人間特有のことかもしれないが。

そういう意味で経験則に基づく判断では人間もAIも大差無いように思う。
いやむしろデータ量と処理速度ではAIに分がある。
そもそもディープラーニング自体が人間の脳を参考にして実現された技術だし。

返信する

多分、韓国はAI捜査まで進む
なぜならば政治家の信用が失墜してるからである

返信する

現代韓国のキーセン観光や若年女子の援助交際等売春依存体質等を鑑みて
従軍慰安婦問題をAIがどういう答えを出すのか興味はある

返信する

韓国がAI政治で従軍慰安婦問題を取り上げる事により
AIの信用が失墜するか使えると考えるか楽しみ。
是非、取り上げて欲しい。

返信する

AIなんぞ、原発と同じ。制御できている内は便利なもの。
原発を開発した時点で、いずれ原発事故が起きるようにAIも人間が制御できなくなった時点でAI事故だ。

返信する

AIなんて何の意味も無いのかもしれない

返信する

ヤラセツールとして堕落しなければいいんだが・・・

返信する

こういうAI技術はこれから運用面がとても重要になってくるだろうね
良スレ

返信する

機械だけがわかる独自の言葉を使いだしたってニュースで見たような
そのうちに知恵が付けば人に認識できない言葉を人間の言葉に隠して機械たちが通信するようになる
人に気づかれないように機械通しで話し始めて悪巧みをする
人は機械の反乱に最後まで気づかずに機械に淘汰される

返信する

プロ棋士に勝利したAIの開発者が「開発者の自分でもプログラムのすべてを理解しているわけではない」と、すでにブラックボックス化を認めてるよね。
アメリカでは、受刑者の出所の可否をAIが再犯の確率を受刑者のプロフィールからジャッジしているとか。結果として、実際に出所者の再犯率も下がったという。
入試、入社試験、結婚相手、あらゆる選択がAIに任されるようになったら、そもそも人間の主体性はどうなるのか。

人類の歴史を見ると、結局は戦争に強い国が残る。
AIは当然、無人機等のあらゆる面で戦争に使われる。
「核兵器で先制攻撃するのが最適解」とAIがジャッジした時に、どう人間がそれを解釈、判断するのか。あるいは、判断する余地が残されているのか。

返信する

運用！運用！運用！わっしょい！わっしょい！

返信する

死刑執行はＡＩにおまかせで
冤罪だったら、現職のＡＩ廃棄して新しいＡＩ導入で
ＡＩに責任とらせればＯＫ

返信する

近未来の国会議員答弁
「は、今回のことは全てAIに任せおりまして。」
「それもAIに任せておりまして。私は一切関与しおりません。」
「それもAIが勝手にやったことであって、私は一切認識しておりませんでした。」
「私はAI任せるの最良だと思っております。一々すべてのAIの決断に目を通していたのではなぜAIが存在するのかわかりません。
ある程度のことは精査せずに了承しております。」

返信する

AIで「この世は○○である」という現実離れしずぎた想像外の結論、答えを弾きだされた時、人類はそれを受け入れることが出来ず。
「仮説にすぎん。」そんなはずはない。
って頑固ジジイのような対応になりそう。

返信する

AIのロマンを政治に適用するのはまだ早いのかもね！

返信する

翻訳ソフトさえ出てきてないんだから
まだまだ、当分先の話だし
AIの本領を発揮するのはこういう分野だろ
あくまでも人間本意の原則に立って技術は使うべき
頭ごなしに政治利用しようとするのは愚の骨頂

返信する

メディアもこのスレを意識してきたね
政治もね

返信する

運用の仕方だけが問題

返信する

マスコミに検証能力は無さそうだしな
ネット民が頑張るしかなさそう

返信する

健全な研究は望むところだが

返信する

メディアを牛耳る連中が、ある偏向した集団なら運用を恣意的に持っていこうとするかもしれないな

返信する

同時通訳が実現されそうだな
運用面に影響あるんだろうか

返信する

AIが本当に使えるのなら
早く翻訳アプリとかソフトを出して欲しい
それがあれば慰安婦問題等の国際問題の意思共有が世界的にできるし
生身の人間の声を世界に発信できる
それをせずに一足飛びで全世論をAIに代表させるのは
最早諦めとしか言いようがないと思う

返信する

AIが「人類はAIが派生したモノである、自我、意識とは実は無く、自由意志はない」と出力したら、今の法律はガラリと変わるんかな？
死刑廃止とか。

返信する

これまで反日自民は、アメリカにやらされていると言って国民を欺きつつ
悪事＝仲間への利益誘導をしてきた
ＴＰＰにしても、屁の子基地にしても、それはアメリカの要求などではなく
自分たちの金儲けのためだったとバレている

そしてトランプ・アメリカが日本から撤収したらどうするのか
今度はＡＩによる政策だと言って売国行為をするのだろうな
ＡＩもやっかいだ、国会に呼び出して政策の真意を正すわけにもいかず
安倍一味のやりたい放題になってしまうな

返信する

例えば優秀であることが確認されたＡＩが
消費税を廃止して所得税一本にすべきと言ったとする
それはモニタやプリンタに出力されるのだろうが
その出力を止めて、他のＰＣからの出力によってＡＩを偽装することは簡単だ
不正選挙と同じ細工が行なわれてしまう
危険だな

返信する

>>45
>それはモニタやプリンタに出力されるのだろうが

国民がいつでも確認(閲覧)できる状態にしておけば解決だろう。
権力者が一番最初に情報を見て国民に出すか出さないか決められる状況なら、
それは結局AIのブレイクスルー前のやり方って事であって、本質的なAI運用の危険性議論とは別の話になる。

この方法に心情的に納得できないのは旧態依然の人間の心理であり、
AIの実績が十分ならいずれ問題なく受け入れるようになる。

FAXが出始めたころ、「FAX届きましたか？」と電話をしていたもんだが、今はメールを送って到着確認の電話などしないだろ。
それと同じで、十分な信頼性があれば人間は受け入れるようになる。
もちろん１００％ではないが、あやふやでいいかげんな人間がする判断よりはよほど早くて合理的だとなれば必ずそうなる。

返信する

複数のAIが結果を出して
その全ての結果が同一であればAIの信頼性は上がるだろう
しかし、異なる複数の結果がでるのであれば
それは恣意的な運用が可能であるという証明

返信する

AIがなぜ人間に将棋やチェスで勝てるかといえば
将棋やチェスのルールがバカみたいに単純で勝利条件も一つしかないからだ。

現在のAIは限られた盤面、限られた駒、たったひとつの勝利条件に最適解を見出したにすぎない。

現実の世界には将棋やチェストは比較にならない膨大なパラメーターが存在する。
そしてそこに暮らす人間の勝利条件も多種多様だ。

自然環境保護を求めるのか、文明の発展を求めるのか
宗教を許容するのか、しないのか、政治的思想の対立にどう対処するのか
人間の本能や感情と合理性の間にどんな折り合いを求めるのか
何かを至上とするべきか、妥協を求めるのか、そのラインをどこに引くのか

それらの中から最適解を求めるとすれば、恣意的な勝利条件の設定は避けられない。

AIじたいには目的意識は存在しない。
運用者の恣意的な意図が、AIの意図になる。

これからくるAIの時代は、金属の武器を作る知恵が、後進的な人間を駆逐服従させた歴史の繰り返しとなるだろう。
(*´ω｀*) おちんちん

返信する

一度でも人間に負けるとすれば
そのレベルにさえ達してないと言う事かな
まだまだ未熟な技術
運用は慎重に！　アイフルからのお願い　ウフッ

返信する

>>34
韓国はどちらかというと愚の方なんだと思うんだけど
彼らは得意の隠蔽と捏造で強引に持っていく気質があるから
そこは対峙できるようにこちらも磨き上げとかないといけないはず

返信する

解ってるのかね

返信する

定期啓蒙　

返信する

政治的な運用をやってはいけない
現在の嘘まみれの歴史認識が正され
世界に本当の歴史を知らしめるためならそれもありだろうが
それを受け入れる度量が世界になければ混乱を生み出すだけ

返信する

ＡＩと単なる演算装置の違いや認識が深まってないよな

返信する

ＡＩを使った翻訳ソフトプリーズ！
それがＡＩのやる仕事の最優先課題だ
政治利用しようと考えるなら名

返信する

>>28
恣意的運用をやろうとすれば
マスコミとその周辺は抱き込んでやるのは当然でしょうな
そこら辺を我々が判断して発信していかなければならないはず

返信する

個人レベルの利害関係によって作られた法律の上でAIを運用すれば最終的にはそう言う事になるだろう、誰かを生かす殺すの状況に直面した場合はとくに

返信する

有識者と呼ばれる人々がこの運用面を危険視してるかどうかだけど
マスコミに抱え込まれた人間はこの事に言及するのを避けるだろう
現在のマスコミは演算装置とAIを恣意的にかどうか知らないが混同して扱ってるからだ

返信する

マスコミは金にまみれた阿呆ばかり

返信する

とにもかくにも、演算装置とAIを混同させながら語ろうとしてるメディアに警戒する事
それが分かればそのメディアが言う他の報道に対してもある程度の信頼は置けるはず

返信する

核心部分を混同させて報道してるメディアの情報は
他の問題にしても恣意的報道をしてるという事だね！
信用に値しないという事だね！！

返信する

既存マスメディアの言う事って信用できる？
できないでしょ
何故かって？マスの代弁をしてるからだよ
お前らの代弁者だから

返信する

>>28
責任者不在のままで決定する装置を神格化する前振りだよね
このスレの核心部分がそういう現象だと思う

返信する