常滑商工会議所のIT相談から、夜はある勉強会での「生成AIセミナー」でした。
「知多エリアの商工会・商工会議所でよくお名前を…」でお声がけを頂き、とても嬉しかったです。
自分も名前を知っている著名な方達の勉強会だったので、珍しくスタートは緊張をしていました。
しかし、とてもアットホームな雰囲気で聴いてくださったので、とても楽しい時間を過ごせました。
テーマ的には「AIのトレンド」「地域と関わる際の使い方」「AIとの向き合い方」などがテーマでした。
懇親会も盛り上がり、最近ChatGPTが事件に関与するって話をニュースでもきくことがある…という話になりました。
それは、ある違法行為の方法の問いかけに最初は助言を拒んだが、「小説で使うから」で助言をしてしまった…とのことです。
このジュエルブレイクはよくある手口で、プロンプトの脆弱性をつくやりかたです。
生成AIは良い意味でも悪い意味でも人の願望の実現を加速させるモノだと思います。
正しく使えば人々に生産性が上がったり、リスクが回避できたり、豊かなアイデアを得られたりと素晴らしい面があります。
しかし、使い方を間違えると、情報漏洩やハルシネーションからの失敗、法的や倫理的な意識の欠如によるトラブルなどに繋がります
簡単に言えば生成AIは人の願望の写し鏡といえます。
誰にもみられない秘密の空間で自分の欲望を満たすための言葉のキャッチボールを繰り返すわけです。
IT関連で必ず議論が起きるのは、SNSが悪い、AIが悪い…って「ツールが悪い」ってなることです。
その一面にあるかもしれませんが、機能でカバーできるところをよくするのがIT技術者です。
もう一つの側面としてツールは「使う人次第」ということです。
特に問いかけで成長する生成AIはより強く人の願望を写し出すと言えるかもしれません。
試行錯誤をしても人が成長して正しくツールを使うようにすることが大切だと思います。
