朝のワイドショーでも紹介されるようになった生成AI。
自分も仕事で生成AIは活用するけど、結果を鵜呑みにはせず、必ず内容の精査はしている。
二度手間になるかもしれないと思うけど、それでもこちらの方が遥かに時短になるわ。
これを見るとAIと人間はやはり根本的に考え方が違うんだなーと思うｗ
生成AIが実際には存在しない内容をあたかも存在するかのように生成してしまう現象を「ハルシネーション」と言うんだけど、これは無視できない問題でして、今の人たちはAIの答えを妙に信頼しきっている雰囲気があるからなぁ。
AIが自分で間違いに気付けることができればより精度が高まると思うんだけど、AIが賢くなればなるほど、こういうハルシネーションを引き起こす確率も高くなる気がするわ。
今は仕事で「某分野のAIエージェントを作るプロジェクトに参加しないか」的な話を持ちかけられていて、少しばかり手を出しているんだけど、本腰入れるのはちょっと躊躇しちゃうなぁというお話。