Opu

AIの具体的な危険性4つ

日記

個人的にAIについてそれほど心配しているわけではないが、

具体的な危険性を扱った記事を見つけたのでメモがてら書いてみる。

1つ目:AIを使って小規模な攻撃者が大規模な事件を起こせるようになる。

2つ目:AIを使うと脅威を作るスピードが速くなり、対策をたてることが難しくなる。

3つ目:AIは良いことに使われるように、悪いことにも使える。

4つ目:AIが自己成長のため、どんな振る舞いを始めるか予測ができない。

以上自分なりにざっくりまとめてみた。
3つ目は一見1.2と同じように感じたが、良いことに使う人より悪いことに使う人が相対的に増えると、些細な悪事でも大きな社会問題になってしまう危険性があるね。

正直、これはどれも結構めんどうでやばい状況でないかい?
とりあえず、AIにAIを使った犯罪をどう防いでいったらいいか聞いてみるか。そうやってAI自身の存在理由をAIに考えさせるべきだな。

個人的にはAIでロト予想できないかなって考えてたんだけどダメか。

  • こめっこ

    こめっこ

    2023/09/22 21:25:04

    専門家が京急目的に使うんだよ。
    例えば新薬の開発とか。将棋の戦法とか。
    一つのことだけ学習させればいい。
    AIに余計な情報は与えない。

  • Opu

    Opu

    2023/09/21 22:38:59

    誰がどうやってAIを使っていい人間と使ってはいけない人間を区別する?
    そうするとAIをつかえる人と使えない人で格差が起きるし、特権を利用してAIで世界制服をたくらむ人間が出てくるかもよ?

  • こめっこ

    こめっこ

    2023/09/21 00:40:33

    AIは一般に使わせてはいけない。不特定多数に使われることにより、どんな成長をするかわからないから。
    専門家が専門的に使う分にはものすごくいい技術。
    ChatGPTみたいに誰でも使えるようにするのはいろいろと危険。
    犯罪者が犯罪行為をいっぱい学習させたら・・・考えるまでもなく恐ろしい世の中になるよね。
    AIが銀行口座を作って詐欺を始める世の中にならないことを祈る。