Alterar um único número entre bilhões pode destruir um modelo de IA
1 min read
A saída das IAs é controlada pela interação de uma grande rede de nós ou pesos
Shulz/Getty Images
Um modelo de inteligência artificial pode ser feito para espalhar a irrealidade se um dos bilhões de números que o compõem for alterado.
Grandes modelos de linguagem (LLMs), como os por trás do ChatGPT da OpenAI, possuem bilhões de parâmetros, ou pesos, que são valores numéricos usados para representar cada “neurônio” em sua rede neural. Eles são ajustados e ajustados durante o treinamento para que a IA possa aprender habilidades como a geração de texto. A entrada é passada por esses pesos, que determinam estatisticamente a saída possível.…
