Alterar um único número entre bilhões pode destruir um modelo de IA

Um modelo de inteligência artificial pode ser feito para espalhar a irrealidade se um dos bilhões de números que o compõem for alterado.

Grandes modelos de linguagem (LLMs), como os por trás do ChatGPT da OpenAI, possuem bilhões de parâmetros, ou pesos, que são valores numéricos usados ​​para representar cada “neurônio” em sua rede neural. Eles são ajustados e ajustados durante o treinamento para que a IA possa aprender habilidades como a geração de texto. A entrada é passada por esses pesos, que determinam estatisticamente a saída possível.…