AIを使うもの、AIに使われるモノ

2023年1月28日

なにかと調べ物や情報収集をしていると、俗にいうインフルエンサーさんみたいなのがChatGPTが凄いのなんのもてはやしているのが目に映るんですが。その評価の仕方と周りの反応を見ると、AIについて理解を得られるのは当分先だろうし、多くの人はカモられるんだろうな、と思わざるを得ませんね。私も含めて人間って愚か。

事の詳細は最近登場したらしいオープンソース。どうやらWordとかExcelとか、その類のものにChatGPT君を連携させて、代わりに情報収集をしてもらったり、記事を書いてもらったりして楽が出来るようになるぞ！というもの。……ここまではまあ、わかる。実際、大手エンタメメディアが執筆にAIを使うとか見ましたし、下地に使う分には大いにありだと思います。でも。「凄い正確に書いてくれる！」とかぬかしよるのは流石にね。ホンマに事実確認したんかお前？ってなるんですよ。有名な声優とか俳優一人でも書き上げさせたら一発でわかると思うんですけどね。

私は年始、下手すれば去年末ぐらいからかな、ずっと言ってたこととして「検索結果によくある”いかがでしたか？”系サイトのより悪質で低品質な記事が量産されるな」っていうのがあるんですけど。割とすぐに汚染されそうですよね。プログラミングの質問箱であるStackOverFlowなんかでもChatGPTの回答を投稿するなって話題になってた気がします。ほんとねえ、楽をするのはいいけど楽の仕方が間違ってんですよね。AIがどういうロジックで回答しているか理解できないと振り回されるし淘汰されますしカモにされますよ。

もうちょっと掘り下げましょうか。「情報収集が手早くできる！」って色んな企業の名前を入れて、住所や電話番号、推定年商とかをね、ChatGPTに吐かせられるようにしてるわけですよ。発想はいいけど、精度ですよね。それを見た能無しさんが事実確認もせずその電話番号に電話をかけたらどうなるか？そこまで頭が回ってない。それぐらいわかるだろう、なんて人に任せてはいけない。まあ知識紹介して金稼ぐ人にとってはそんな人たちのことは知ったことが無いんでしょうけど。本当に、人というのは都合のいい部分だけ見て誤解しまくるので、私は人にものを教える時にはこういうところは責任をもって口酸っぱく言うことを心掛けているんですが。

こういう時、メディアは割と保守的というか、新技術に警鐘を鳴らすような記事を書いてくれるので、例えばスパムに悪用されるとか、セキュリティホールを突く例を考案させられるとか、そういう方向を取り上げてくれることもあるので役に立つなーなんて思ったりもしますね。ほんとに、倫理とか法整備が今後どうなっていくかは課題というか、結果的に人の行動が縛られたり魔女狩りになったりするのだけは勘弁してほしいものですね。

さてさて、「嘘八百を平気で吐く」という点について。どうしてそんなことが起きるの？というAIの性格をざっくりと説明しておかないと、私もそこらの人間と変わりませんので、触れますとですね。AIは原則として、確率・統計や近似を用いて構成されます。俗にいうビックデータを用意して、「この単語の後にはこの単語が続く可能性が高いな」「この色の周りにはこの色だろうな」というのを、ある程度乱数要素も混ぜつつ出力させています。お絵かきAI君が同じpromptで異なる絵を出力してるのは、画像を生成するための最初のノイズがランダムだったりするから、のはずです（間違ってたらごめんなさい）。あくまで「傾向」を可視化しているだけで、100%事実になるということはほぼありません。それは何故なら、手に入れたデータの情報そのものからして100％正確ではないからです。誤字脱字があったり、方言が混ざっていたり、勘違いが入っていたり。たとえば、「確信犯」という単語をあらゆる辞書から引っ張ってきたとして、全く同一の説明のされ方がしているわけではないですよね？時代と共に変化する用語を、時代情報を抜きにしてまとめてしまえば、そこには揺らぎが生じます。上の声優もそうで、「アニメなどで有名な声優」という紹介文の後に続きそうな言葉で、よりなんとなく「山寺宏一」っぽい文章を確率で選んでいるだけです。誤差、外れ値、そういったものは世の中に絶対存在するので。もし完全に予測できるなら、今頃ギャンブルは崩壊してますし、株価はあてになりませんよ。

じゃあどうやって使えばいいんだ、っていう話ですが。上記のようなことをちゃんと頭の片隅に入れておいて、「AIは嘘をついている可能性がある」と疑ってみることさえできれば、ぜひ大いに駆使していただいて結構です。メンタルパートナーにもなりますし、校正の先生にもなってくれる。創作に関しては自由に作ってくれますし、私は癖を満たすために非常にお世話になってます。そうそう、これも言いたかったことの一つなんですが、いつの間にかこんなに下に来てしまっているんですけれども、英語でChatGPTと会話するとデータ量の違いと翻訳の壁がないので非常にユーモアあふれる多彩な文章や表現を山ほど出してくれます。そのうえこちらは英語の勉強を楽しんで行えるというメリットもあり、非常に楽しいです。