文章生成 on akky@サイボウズラボ・ブログ

StackOverflowで、ChatGPTを使ったAI回答を当面禁止に

Mon, 05 Dec 2022 00:00:00 +0000

英語圏の技術質問サイト Stack Overflow に関して、Stack Overflow 自身の運営等について語る Stack Overflow META にて、一時的な AI 回答の禁止が宣言されました。

つい先日公開された ChatGPT AI が質問に対して自然な文章でもっともらしい回答を返してくることが話題となっています。

Stack Overflow で回答がついてないJavaScript の質問を ChatGPT に渡したら、長文の回答が得られたというツイートを見かけてこんな感想を書いたところでした。

StackOverflowやQuoraの未回答問題に回答付けまくる人とか出てきそうだ。質はともかくパッと見ちゃんとしてるし https://t.co/Stn9XOAPfn
— Akky (@akky) December 5, 2022

ChatGPT を使えば短時間で(なんらかの)回答文が作れるため、サービス上でのポイント稼ぎに AI で作った回答を乱投稿ユーザーも出るかもなと。

実際にAI回答が増えているかどうかはわかりませんが、ChatGPT の生成した文章やソースコードは、見かけ上非常に整然とした形式で出力されるわりに中身が間違っていることも多く、そのまま Stack Overflow の回答にされると回答の質が落ちる、正解を探しに来たユーザーに対しては害にしかならない、というのが禁止の理由です。

AIイラスト生成サービスでもそうでしたが、ツイッターなどSNSで紹介されて感心するようなものは、人間がAIにたくさん試行させた大量の結果から良いものを選んでいるからすごいという面があります。

ChatAPT で webサービスを一式生成させてしまうという事例も複数出ていますが、それはチャットに対する誘導をしっかりできて、生成されたコードが問題ないか判定できる人間が使ったからまともに動くのであって、単純に ChatGPT に質問を喰わせて出てきた回答が正解、なんてことは今はまれでしょう。

ChatGPT にも訊いてみた

“temporarily(一時的に)“というのは、AI の回答の正確さが増した未来のことを考えてのことかもしれません。人間よりも良い回答ができる種類の質問もあるでしょうし、回答に AI が使われたかどうかを示すフラグとかが導入されるのかもしれません。AI が本当に良いものになれば、質問サイト自体が他のヒトではなく AI に教えてもらうサービスになるということも無いとは言い切れませんね。

OpenAIとStreamlitを使ったAIツイート自動生成サイト with ソースコード

Thu, 01 Dec 2022 00:00:00 +0000

OpenAI GPT-3 APIを呼び出して、お題に沿った適当なツイートを生成するwebサイトが、ソースと共に公開されています。

指定するのは3つ。

Topic: 語らせたい話題 Mood: どんなムードで語らせるか ([使える形容詞の一覧)](https://github.com/kinosal/tweet/blob/main/moods.txt) Twitterアカウント名: 既存のtwitterユーザーの最近のツイートを真似させる

Mood と twitterユーザーはオプションなので、topic だけでも何かしら作ってくれます。

例えばで以下のように入力してみました

Topic: Dropkick on my devil Mood: dreamy, happy, relaxed, tender Twitter: イーロン・マスク(elonmusk)

で、生成されたのがこれ

Just watched an episode of #DropkickOnMyDevil and it made me feel so relaxed and happy - it’s the perfect way to end the day 🌃✨ (邪神ちゃんドロップキックを観たとこ。とてもリラックスしてハッピーな気分になった。パーフェクトな一日の締めくくりだ)

模倣対象とムードを変えると、まったく違うツイートが出来上がってきます。

Topic: Dropkick on my devil Mood: inspirational, thoughtful, dignified Twitter: アメリカ大統領(potus)

ロボトランプ - トランプ大統領本人が言ったかのようなスピーチ文を自動生成するbot

Fri, 25 Oct 2019 00:00:00 +0000

RoboTrumpは、トランプ大統領のスピーチ文そっくりの文章を生成するAIツールということです。

RoboTrump が生成した10種類の異なる政治カテゴリについてのフェイクスピーチと大統領本人の本物のスピーチを混ぜ、1000人の人にそれぞれが本物かフェイクか判定してもらったところ、正しく当てられた率は40%だったということ。ランダムに答えても50%は当たるはずなので、RoboTrump は本物以上にトランプ大統領らしいスピーチを生成した、と言えるかもしれません。

サイト上でこのテストを自ら試すことができます… が、全然わかりません。どれも本物っぽく見えてしまう。

テストの後に回答者の属性ごとの傾向が分析されていますが、保守派、トランプ支持者、通学期間が短い人、若者、ほど、そうでない人よりも本物・フェイクの両方のトランプ・スピーチを本物だと考えたということです。

via Hacker News