Chatgpt on akky@サイボウズラボ・ブログ

ChatGPT で文面を書き換えることで Gmail のスパム(誤)判定を突破する

Mon, 23 Jan 2023 00:00:00 +0000

Tor ノードの運営者が Tor の濫用に関する苦情メールに返答する際に使うテンプレート文面でメールを送ろうとしたとき、Gmail のスパムフィルタにスパム認定されてしまったそうです。

この運営者は ChatGPT を使ってメール文を書き換えさせると、Gmail がスパムと判定しなくなったのでめでたしめでたし、という話。

書き換えてください(reword)で実際にどんな細かな指定をしたのかは書いていないのですが、少し長くなった文章でメールを送り直すと、こんどはスパム認定されなかった。今後はスパム認定されるたびに ChatGPT に書き換えさせようかな、と言っています。

今回はスパムでないメールを通すための正当な ChatGPT の利用でしたが、スパマーがスパムフィルタをかいくぐるために ChatGPT やそれに類する機械学習ツールを使うことは容易に予想できますし、すでにそれは行われているのかもしれないですね。便利なツールを使いたい人は善悪に関わらずいるわけで。

via Hacker News

ChatGPTのAIによる回答をGoogle検索ページに併記するChrome拡張

Mon, 05 Dec 2022 00:00:00 +0000

wong2/chat-gpt-google-extensionは、数日前にテスト公開されたなんでも答えるチャットAIサービス ChatGPT を使い、Google検索した時にその検索結果ページに ChatGPT の回答を並べて表示する、というChrome拡張です。

「Googleが検索結果に表示しないページはある?」と訊いてみた結果ページ

上の試用結果で ChatGPT が答えてくれていますが、Google 検索結果の先頭に出てくるページは Google 内部の非公開のアルゴリズムによって決められていて、万人が納得するもっとも関係のあるページが必ずしも出てくるとは限りません。

スパムや見に行くとPCやブラウザがおかしくなるような悪いページを排除するとかはありがたいのですが、Googleだけに訊ねることでGoogleが上位に持ってこない(がウェブ上では有力な)情報に気づけないということもあるかもしれません。

色々なことを訊いても結構な割合でそれらしい(正しいとは言っていない)答えを出してくれる ChatGPT の応答を Google検索の時に横に一緒に出してくれるこの拡張を使うことで、検索した内容に関連する補足情報や少し違う情報を得られるということもあるのかもしれませんね。

Hacker Newsのスレッドでは、ChatGPT やこれから出てくる同様のものを使うことで、Google検索に対抗するような検索サービス、検索というよりQ&Aサービスにも寄ったものになるかもしれませんが、が出てくる可能性について話している人もいました。ChatGPT はもっともらしく大嘘をつくことも多いようですが、結果を確かめなきゃ使えないのは今のWeb検索でも同じと言えば同じですし。

Chrome拡張機能はオープンソースでGitHub上で公開されていて、Chromeの公式ストアではないためChromeの設定から自己責任で読み込む必要があります。(Releasesページからダウンロードしたzipを展開し、[設定]-[拡張]-[パッケージ化されていない拡張機能を読み込む]。

また、ChatGPTへのアクセスは自分のアカウントで行っているため、利用前に ChatGPT へのログインが必要です。現在は無料で試用できますが、他の OpenAPI の APIサービス同様、呼び出しの有料化が予想されます。

via Hacker News

StackOverflowで、ChatGPTを使ったAI回答を当面禁止に

Mon, 05 Dec 2022 00:00:00 +0000

英語圏の技術質問サイト Stack Overflow に関して、Stack Overflow 自身の運営等について語る Stack Overflow META にて、一時的な AI 回答の禁止が宣言されました。

つい先日公開された ChatGPT AI が質問に対して自然な文章でもっともらしい回答を返してくることが話題となっています。

Stack Overflow で回答がついてないJavaScript の質問を ChatGPT に渡したら、長文の回答が得られたというツイートを見かけてこんな感想を書いたところでした。

StackOverflowやQuoraの未回答問題に回答付けまくる人とか出てきそうだ。質はともかくパッと見ちゃんとしてるし https://t.co/Stn9XOAPfn
— Akky (@akky) December 5, 2022

ChatGPT を使えば短時間で(なんらかの)回答文が作れるため、サービス上でのポイント稼ぎに AI で作った回答を乱投稿ユーザーも出るかもなと。

実際にAI回答が増えているかどうかはわかりませんが、ChatGPT の生成した文章やソースコードは、見かけ上非常に整然とした形式で出力されるわりに中身が間違っていることも多く、そのまま Stack Overflow の回答にされると回答の質が落ちる、正解を探しに来たユーザーに対しては害にしかならない、というのが禁止の理由です。

AIイラスト生成サービスでもそうでしたが、ツイッターなどSNSで紹介されて感心するようなものは、人間がAIにたくさん試行させた大量の結果から良いものを選んでいるからすごいという面があります。

ChatAPT で webサービスを一式生成させてしまうという事例も複数出ていますが、それはチャットに対する誘導をしっかりできて、生成されたコードが問題ないか判定できる人間が使ったからまともに動くのであって、単純に ChatGPT に質問を喰わせて出てきた回答が正解、なんてことは今はまれでしょう。

ChatGPT にも訊いてみた

“temporarily(一時的に)“というのは、AI の回答の正確さが増した未来のことを考えてのことかもしれません。人間よりも良い回答ができる種類の質問もあるでしょうし、回答に AI が使われたかどうかを示すフラグとかが導入されるのかもしれません。AI が本当に良いものになれば、質問サイト自体が他のヒトではなく AI に教えてもらうサービスになるということも無いとは言い切れませんね。