新・Scratch のコミュニティをより良い所にするために

sei6sei

信じるべき、と確認して、は矛盾していませんか。

finalbacon

#6959
chatGPTというのは平然と嘘を付くときもあります。なので、#6959に書かれている通り、確認が必要になるわけです。確認のためにその件について調べる必要があります。つまり、“調べる”時間を短縮するための作業の中に“調べる”が含まれているわけで、そうなるなら最初から調べればいいのでは、と私は思ってしまいます。

chatGPTが「嘘を言わない完全完璧AI」となるまで、chatGPTはあまり検索には向かないというのが私の意見です。もちろん、少し極端なところがあるのは認識しています。

Last edited by finalbacon (May 18, 2025 05:00:03)

masaOdakyu

いえ、確かに捉え方によっては矛盾してしまうと思われるかもしれませんが、日常的に言う事がある例としては、
「君の言うことは信じてるけど、念のために確認させてね。」
「信頼してるからこそ、あとで誤解が起きないように確認する」という考え方です。

議論の中でも、
「あなたの意見や意思は信じる、でもその上でルールに照らして確認したい」
というのはは、敵意ではありません。単に相手を疑っているわけではなく、「全体にとっての正確さ」や「未来のための責任」を果たすためだと思います。
つまり、確認するのと信じるというのは両立できるのだと思います。

参考：　https://www.asahi-net.or.jp/~ng1f-ist/believe.html　（決してこのサイトから引っ張ってきたわけではありませんが、後に調べたら似たようなことが書いてあったので、載せておきます）

masaOdakyu

finalbacon wrote:
確認のためにその件について調べる必要があります。つまり、“調べる”時間を短縮するための作業の中に“調べる”が含まれているわけで、そうなるなら最初から調べればいいのでは

そうなんですが、おっしゃる通り、ChatGPTなどは現時点で完璧ではなく、ときに誤情報平然と述べることもある点については同意します。特に情報の正確さや裏取りが求められる場面では、「AIが言っていたから」で済まされるものではありません
その上で私が考えているのは、「調べるための時間を短縮する作業の中に“調べる”が含まれている」ことの意味です。パラドックス的に聞こえるかもしれませんが、生成AIは「調べる」という行為そのものを代替するのではなく、むしろ調べるべきポイントを絞る手助けをするツールとして機能すると思っています。
たとえば、膨大な情報の中から候補や方向性を示してもらったり、参考になる文献を提示してもらうことで、そこから本当に必要な部分にアクセスするまでのステップを短縮できます。その出力が常に正確であるとは限らないという前提上で、「入り口」として活用できます。

僕は、ChatGPTを「正しいことを言ってくれる万能な検索エンジン」だとは思っていません。ツールとしての可能性は高いと思っています。それを「使うべきでない」とするのではなく、「どう使えばコミュニティの質を損なわずに済むのか」を、僕が一番議論したいポイントです！

今回いただいたような視点はとても大切だと思っていますし、私自身も「極端になりすぎていないか？」という視点の上で、これからも一緒に考えていきたいです。引き続きご意見をいただきたいです。

※ちなみに、ChatGPTの「検索」では、サイト全体を根拠として示すのではなく、その中でも特に根拠になる文言をクローズアップして表示してくれます。

inoking

どうも AI と話している感が否めません。
試しに、しばらく AI を一切使わずに書いてもらえますか。

masaOdakyu

inoking wrote:
どうも AI と話している感が否めません。
試しに、しばらく AI を一切使わずに書いてもらえますか。

わかりました。少なくとも本日はAIを全く使わないで議論します。（視点としてAIからヒントをもらっているのはありましたが…AIだけが作った文章ではありません、文科省のガイドラインに則っています）

Last edited by masaOdakyu (May 18, 2025 05:15:33)

Clemens829

それが正しい答えなのか自分で確信を持てないのなら、そもそも書くべきではないと思います。AIの力を使ってまで投稿しなくても、他の人が勝手に回答してくれます。

masaOdakyu

Clemens829 wrote:
それが正しい答えなのか自分で確信を持てないのなら、そもそも書くべきではないと思います。AIの力を使ってまで投稿しなくても、他の人が勝手に回答してくれます。

僕は、「正しい答え」を速く書ける人のことを「よほど有識な人間」と表現しましたが、そのような日本人はST除いて何人いるのでしょうか…。

また、確信については、
goo辞書によると、「［名］(スル)固く信じて疑わないこと。」なので、
「確かに捉え方によっては矛盾してしまうと思われるかもしれませんが、日常的に言う事がある例としては、
「君の言うことは信じてるけど、念のために確認させてね。」
「信頼してるからこそ、あとで誤解が起きないように確認する」という考え方」ができると思います。

masaOdakyu

Clemens829 wrote:
それが正しい答えなのか自分で確信を持てないのなら、そもそも書くべきではないと思います。AIの力を使ってまで投稿しなくても、他の人が勝手に回答してくれます。

僕は、「正しい答え」を速く書ける人のことを「よほど有識な人間」と表現しましたが、そのような日本人はST除いて何人いるのでしょうか…。

また、確信については、
goo辞書によると、「［名］(スル)固く信じて疑わないこと。」なので、
「確かに捉え方によっては矛盾してしまうと思われるかもしれませんが、日常的に言う事がある例としては、
「君の言うことは信じてるけど、念のために確認させてね。」
「信頼してるからこそ、あとで誤解が起きないように確認する」という考え方」ができると思います。

[url=https/www.asahi-net.or.jp/~ng1f-ist/believe.html wrote:
お気楽論]つまり、他人との関係というのは「信じるか、疑うか」ではなくて「確認するか、しないか」で決まるのである。

Last edited by masaOdakyu (May 18, 2025 05:54:14)

sei6sei

私たちは基本的に「調べてから」回答しています。
答えるだけで出典を示さないことは（よほど一般的でない限り）ありません

abee

#6950の「毎回確認するのも正直手間がかかって議論を進めることが難しくなってしまいます」の時点で間違っていると思います。

Last edited by abee (May 18, 2025 06:28:13)

masaOdakyu

sei6sei wrote:
私たちは基本的に「調べてから」回答しています。

よほど経験を積んでいる方でなければ、調べあげることさえ難しいと思います。どんなキーワードで探せば良いのか、そしてそのサイトのどこに使えそうな文があるのか…など。これでは、一般的なScartcherは曖昧なこたえを出すことしかできなくなってしまう恐れがあり、答えるハードルが上がってしまいます。すると、よほどの有識者しか「正しい答え」を出せなくなります。
そこでAIを使えば、よほどの有識者でなくても答えを出すことが比較的容易になり、答えるハードルも下がるので、少なくとも13歳以上の方たちには質問・回答のしやすいフォーラムになると考えています。プロジェクト作成とは別ですが。

abee wrote:
#6950の「毎回確認するのも正直手間がかかって議論を進めることが難しくなってしまいます」の時点で間違っていると思います。

手間がかかるから確認しないのではなく、できるなら確認しなくても利用規約などをちゃんと理解していたい、という意味でした。

Last edited by masaOdakyu (May 18, 2025 06:45:10)

sei6sei

AIを使って調べることが出来るのなら、同じようにAIを使わずに調べることも出来るはずです。
一般的なScratcherはインターネットを使用しています。
そのインターネットで少し工夫して検索すれば、すぐに出てきます。
そもそも曖昧な回答しかできないのであれば、AIを使う使わない以前に無理に答える必要はありません。（AIが提示してきた質問の回答が正しいかわからないでしょう）

そもそも、ScratchTeamがAIで作成された投稿を削除していることから全てわかるはずですが。

Last edited by sei6sei (May 18, 2025 06:57:28)

masaOdakyu

sei6sei wrote:
AIを使って調べることが出来るのなら、同じようにAIを使わずに調べることも出来るはずです。
そのインターネットで少し工夫して検索すれば、すぐに出てきます。
そもそも曖昧な回答しかできないのであれば、AIを使う使わない以前に無理に答える必要はありません。（AIが提示してきた質問の回答が正しいかわからないでしょう）

Scratcherの多く（どれぐらいかはわかりませんが）は、「インターネットで少し工夫して検索」が、できないと思います。「どうやって工夫するんだろう？」
また、ディスカッションフォーラムにおいて「答えなきゃいけない！」と勝手に義務のようなものを背負っているScratcherは多くなく、「議論に参加したい！」「自分が答えたい！」と意欲をもっているScratcherが多いと思います。なので、「無理に答える」のではなく、少なくとも僕は「答えたい」と思っています。
AI（ここではChatGPT）は調べるときに「検索」を使えば、AIが生成するときの根拠として使ったサイトが表示されるので、そこを元に確認でき、あるいは逆のことを聞いて反対の回答をしないかで再度確認できます。
そして、自分は曖昧な回答しかできないと諦めてしまうと、議論や回答が遅くなって解決するスピードが遅くなってしまいます。Aiを使えば、曖昧な回答しかできない人でも、上のステップによって回答ができ、単純計算で解決スピードが上がります。また、間違った回答も減り、トピックが軽くなることも予想できます。

masaOdakyu

sei6sei wrote:
ScratchTeamがAIで作成された投稿を削除していることから全てわかるはずですが。

「予想」はできますが、「分かる」ことはできません。明確ではないからです。算数や数学のように、不透明なものから明確な答えを求めることは現実には難しいからです。また、その対応がすべてなのでしょうか…。

sei6sei

AIを使って出てきた答えが正しいかどうかを、どうやって確認するのですか。

finalbacon

#6974
色々と書きたい部分があったので返答させていただきます。多分被ります。

masaOdakyu wrote:
Scratcherの多く（どれぐらいかはわかりませんが）は、「インターネットで少し工夫して検索」が、できないと思います。「どうやって工夫するんだろう？」

それがわからないような人間に、#6964のようなAIの使い方ができるとはあまり思えません。#6964のような使い方はたしかに“良い”と思ったのですが、それができないのならAIを使うのはあまり…。他の使い方も同様。

masaOdakyu wrote:
「答えなきゃいけない！」と勝手に義務のようなものを背負っているScratcherは多くなく、「議論に参加したい！」「自分が答えたい！」と意欲をもっているScratcherが多いと思います。なので、「無理に答える」のではなく、少なくとも僕は「答えたい」と思っています。

そもそも、答えることが目的になっているのが違います。たしかに裏にはそういう目的が潜んでいるのかも知れませんが。とりあえず、わからないなら答えようとするべきではないのは事実です。わかる人だけが質問に答えればいいのです。実際今でもそれで成り立つと思います。

masaOdakyu wrote:
また、間違った回答も減り、トピックが軽くなることも予想できます。

わかる人だけが答えたほうがより誤情報は減るでしょう。

Last edited by finalbacon (May 18, 2025 07:29:18)

masaOdakyu

sei6sei wrote:
AIを使って出てきた答えが正しいかどうかを、どうやって確認するのですか。

わかりやすく説明すると、

①AIが「検索」機能を使って生成したとき、使ったWebページのURLやタイトルが表示される。
②それらのリンクをクリックして実際のページを開くことで、AIの答えがそのサイトのどこに基づいているか確認する。
③特に「引用部分」と「要約された部分」に注目して、実際の文脈と合っているかを見る。

ChatGPT限定にはなってしまいますが、「検索」を使うことを前提として、上の方法を示しました。

abee

#6974
たとえば、masaOdakyuさん自身が#6930で「根拠として使ったサイト」を示していません。そのため、「そこを元に確認でき」ません。「「自分が答えたい！」と意欲をもっている」「曖昧な回答しかできない人」によって、「解決スピードが上が」るのではなく、かえってコミュニティーを混乱させることになります。

abee

#6955

masaOdakyu wrote:
議論の視点を見つけるためには使用しましたが←今は文科省のガイドラインに則って使用しています。

とのことですが、ガイドラインで「不適切と考えられる例」としてあげられている、

⽣成AI⾃体の性質やメリット・デメリットに関する学習を⼗分に⾏っていないなど、情報モラルを含む情報活⽤能⼒が⼗分育成されていない段階で、⾃由に使用する

ことに該当しているように見えます。つまり、「則って使用」していること自体が疑われます
年齢制限があることに加えて、「⽣成AI⾃体の性質やメリット・デメリットに関する学習」を十分に行っているScratcherはほとんどいないと思われます。逆にいうと、十分に学習を行った人であれば、あらためてルールのようなものを設ける必要もなく活用できるはずです。

Last edited by abee (May 18, 2025 07:51:58)

Discuss Scratch