Great paper on LLMs|AI and why their intrinsic unreliability is “unsolvable”. Why use a gadget that harms the environment and can’t be relied upon for the most basic tasks, like putting together a list of bibliographical references?

NPnatureportfolio.bsky.socialSep 30, 2024 1:39pm

Scaling up and shaping up large language models increased their tendency to provide sensible yet incorrect answers at difficulty levels humans cannot supervise, highlighting the need for a shift in AI design towards reliability, according to a paper in Nature. go.nature.com/4eCAnis 🧪

Usar LLMs como FONTE de informação é um tiro no pé realmente, mas existem técnicas pra mitigar esse problema como por exemplo RAG, onde a LLM é usada pra responder a respeito de um documento passado como parte do contexto da conversa. en.wikipedia.org/wiki/Retriev...

sem contar que a ia também pode sofrer alucinação

É uma questão de arquitetura. Vários nomes importantes da AI com o Yann Lecun da meta falam isso faz tempo.