意図せずとも癖や誤りは入る

私自身ソフトウェアの開発経験者だが、
AIのロジックは知る由もない。
判断の根拠自体は大量のデータ（LLM）ではあるが、
随所でソフトウェアの介入が必要なことは確かだ。
そのロジックは開発者に負う。

「アルゴリズムは高度に埋め込まれた誰かの意見でしかない」
あるコラムにあった言葉だ。
全て客観的で正しいロジックかと言えばそうではない。
また、意図するかしないかは別として、
開発者の認識バイアスが入り込んだりもする。
始末が悪いのは、開発者自身が気がつかない誤りが入り込んだりもする。

AIが全て客観的な出力だと思ったらそうではなく、
開発者の作成したコード通りに動いているだけだ。
LLMから推測したものではあったとしても、
それをどう判断するかは開発者のコードだ。
客観性を開発者に求めるのは無理だ。

暴論と言えるかもしれないが、開発者なんて、
ある意味奇人の集まりである。（私も然り）
どこで客観性を担保するのか非常に難しい問題である。
LLMの数を増やし、ロジックへの依存をできるだけ減らす。
こんなことぐらいしか私の頭には浮かばない。
更にLLMの客観性をどう保証するかも難題だ。
参照するLLMにどんなバイアスが存在するかわからない。

「委ねますか？、開発者の、ロジックに」