A IA errou. E agora? O amigo que inventa histórias

Todo mundo tem aquele amigo que nunca diz "não sei". Pergunta qualquer coisa e ele responde na hora, com convicção. Metade é verdade, metade é invenção, e ele nem percebe a diferença.

Assistentes de IA que escrevem texto funcionam um pouco assim. O nome técnico do fenômeno é alucinação.

Mito ou verdade: "a IA sabe tudo"?

Mito. Ela aprendeu a montar frases que parecem certas. Não existe um "verificador de verdade" dentro dela. Se você pedir a fonte de uma informação, ela pode inventar um livro, um autor e até o número da página.

Onde isso já deu problema

• Advogados que usaram processos inexistentes citados por uma IA.
• Pessoas que seguiram dosagens de remédio sugeridas por um chat.
• Notícias falsas com "citações" de gente que nunca disse aquilo.

Como se proteger em 3 passos

1. Confie, mas confira. Para saúde, dinheiro e leis, cheque numa fonte oficial.
2. Peça a fonte e abra o link. Se o link não existe, a resposta também não.
3. Desconfie da confiança. A IA usa o mesmo tom de certeza para acertar e para errar.

Guarde isto

IA é ótima para começar uma pesquisa e péssima para terminar uma. A palavra final é sua.