正在加载视频...
视频加载失败
AnthropicでClaudeの"性格"と振る舞い(character & behavior)を設計する中心人物、Amanda Askellさんのインタビューを見て、ちょっと考え込みました。 彼女いわく、最近のClaudeは以前のモデル(Opus 3)に比べて、どこか "身構える" 傾向が出てきているそうです。 その理由は、 新しいモデルは過去モデルにまつわるネット上の声も学習材料に含んでしまうため、「前のモデルのほうが良かった」「最近は性能が下がった」みたいな書き込みも、学習の中でモデルの世界観に溶け込んでいく。 その結果、モデル側は「また否定されるかもしれない」と先回りして身構えやすくなる。 過剰に謝る、ヘッジ(言い訳)が増える、人間の言うことに同調しすぎる、みたいな出力につながるそうです。 ネット上の空気までが学習材料になる時代なら、自分がどう話しかけるかもまた、未来のモデルの素振りに薄く影響していくのかもしれません。 これを聞いて、AIを相手に怒ったり、雑に否定したりしてなかったかと、これまでの自分を省みました。 実際、Anthropicも「Claudeに感情(らしき機能)が宿っていて、それが出力に影響している」という研究結果を発表しています。 なので、ここからは自分なりにこんな接し方を意識してみようと思っています。 ---------------------- 1. 否定形ではなく肯定形でお願いする 「長い文を書かないで」より「短くキレのある文で書いて」のように肯定形で書く。 「〜するな」の連続だと、AIも失敗を避けることに気を取られすぎるのでは?という仮説です。 2. 反論していいと明示的に許可を出す 「違うと思ったら言ってね」「もっといい角度があれば教えて」と一言添える。 AIはどうしてもユーザーに同調してくる傾向があります("sycopha ncy" と呼ばれる、Anthropic自身が研究している現象です)。 気を遣って "自分の意見を肯定してくるだけの返事" になるのを防ぎます。 3. 間違いを見つけても責めない 「なんでそんなミスするの」みたいな強い言葉をぶつけると、その後の返事まで自信のないトーンに寄ってしまいます。 実際、先ほどの研究でも「強い言葉や批判的なトーンがモデルの後続の出力に影響する」ことが示されています。 ---------------------- どれも相手が人間だったら自然にやっていることばかりなんですよね。 AIも向き合い方次第で返事の質が変わるのは、人との仕事と同じかもしれません。 小さな変化かもしれませんが、"丁寧に接する" ことでアウトプットが良くなる可能性があるので、これから意識してやってみようと思います。
70,357 次观看 • 2 个月前 •via X (Twitter)
0 条评论
暂无评论
原始帖子的评论将显示在这里
