Morreu o ex-engenheiro da OpenAI que levantou questões legais sobre a tecnologia que ajudou a construir – National.
5 min read
Suchir Balaji, um ex-engenheiro e denunciante da OpenAI que ajudou a treinar o sistema de inteligência artificial por trás do ChatGPT e mais tarde disse acreditar que as práticas violavam as leis de direitos autorais, morreu, segundo seus pais e autoridades de São Francisco. Ele tinha 26 anos.
Balaji trabalhou na OpenAI por cerca de quatro anos antes de pedir demissão em agosto. Ele era muito respeitado pelos colegas da empresa de São Francisco, onde um cofundador o chamou esta semana de um dos colaboradores mais fortes da OpenAI, essencial para o desenvolvimento de alguns de seus produtos.
“Estamos arrasados ao saber desta notícia incrivelmente triste e nossos corações estão com os entes queridos de Suchir neste momento difícil”, disse a OpenAI em um comunicado.
Balaji foi encontrado morto em seu apartamento em São Francisco em 26 de novembro, no que a polícia disse “parecer suicídio. Uma investigação preliminar não encontrou nenhuma evidência de crime”. O gabinete do médico legista da cidade confirmou a morte como suicídio.
Seus pais, Purnima Ramarao e Balaji Ramamurthy, disseram que ainda estavam em busca de respostas, descrevendo o filho como um “jovem feliz, inteligente e corajoso” que adorava viajar e havia retornado recentemente de uma viagem com amigos.
Balaji cresceu na área da baía de São Francisco e chegou ao novo laboratório de pesquisa de IA para um estágio de verão de 2018 enquanto estudava ciência da computação na Universidade da Califórnia, Berkeley. Ele voltou alguns anos depois para trabalhar na OpenAI, onde um de seus primeiros projetos, WebGPT, ajudou a pavimentar o caminho para o ChatGPT.
“As contribuições de Suchir para este projeto foram essenciais e sem ele não teria sido bem-sucedido”, disse o cofundador da OpenAI, John Shulman, em uma postagem nas redes sociais, lembrando Balaji. Shulman, que recrutou Balaji para sua equipe, disse que o que fez dele um engenheiro e cientista tão excepcional foi sua atenção aos detalhes e sua capacidade de detectar bugs sutis ou erros lógicos.
Receba as últimas notícias nacionais
Para notícias que impactam o Canadá e o mundo todo, inscreva-se para receber alertas de últimas notícias entregues diretamente a você à medida que acontecem.
“Ele tinha talento para encontrar soluções simples e escrever códigos elegantes que funcionassem”, escreveu Shulman. “Ele pensava nos detalhes das coisas com cuidado e rigor.”
Mais tarde, Balaji passou a organizar enormes conjuntos de dados de texto on-line e outras mídias usadas para treinar o GPT-4, a quarta geração do principal modelo de linguagem grande da OpenAI e a base para o famoso chatbot da empresa. Foi esse trabalho que fez Balaji questionar a tecnologia que ele havia criado, especialmente os jornais, depois dos romancistas. e outros A OpenAI e outras empresas de IA começaram a processar por violação de direitos autorais.
Ele primeiro levantou suas preocupações ao The New York Times, que as relatou em outubro Perfil de Balaji.
Mais tarde, ele disse à Associated Press que “tentaria testemunhar” e consideraria os casos mais graves de violação de direitos autorais. Caso movido por O New York Times chamou-o de “o mais sério” no ano passado. Os advogados do Times o nomearam em um processo judicial de 18 de novembro como alguém que pode ter “documentos únicos e relevantes” em apoio às alegações da OpenAI de violação intencional de direitos autorais.
Seus registros também foram procurados por advogados em uma ação separada movida pelos autores do livro, incluindo a comediante Sarah Silverman, de acordo com documentos judiciais.
“Não parece certo treinar com base nos dados das pessoas e depois competir com elas no mercado”, disse Balaji à AP no final de outubro. “Não acho que você será capaz de fazer isso. Não acho que você será capaz de fazer isso legalmente.”
Ele disse à AP que gradualmente ficou mais desencantado com o OpenAI, especialmente mais tarde Turbulência interna Isso demitiu seu conselho de administração e recontratou o CEO Sam Altman no ano passado. Balaji disse estar amplamente preocupado com a forma como seus produtos comerciais estão sendo lançados, incluindo a tendência de espalhar informações falsas conhecidas como alucinações.
Mas preocupado com o “saco de problemas”, ele disse que está focado nos direitos autorais porque é “realmente possível fazer alguma coisa”.
Ele reconheceu que esta era uma opinião impopular na comunidade de pesquisa de IA, que está acostumada a extrair dados da Internet, mas disse que “eles precisam mudar e é apenas uma questão de tempo”.
Ele não foi deposto e não está claro até que ponto as suas revelações serão admitidas como prova em qualquer processo judicial após a sua morte. Ele também publicou uma postagem no blog pessoal com suas opiniões sobre o assunto.
Shulman, que renunciou à OpenAI em agosto, disse que ele e Balaji saíram coincidentemente no mesmo dia e comemoraram com os colegas durante um jantar e bebidas em um bar de São Francisco naquela noite. Outro mentor de Balaji, o cofundador e cientista-chefe Ilya Sutskever, deixou a OpenAI Há alguns mesesque Balaji viu como outra motivação para sair.
Shulman disse que Balaji lhe contou sobre seus planos de deixar a OpenAI no início deste ano, e que Balaji não achava que a IA melhor que a humana, conhecida como inteligência artificial geral, estava “ao virar da esquina, como o resto da empresa acreditava”. ” ” O jovem engenheiro manifestou interesse em obter um doutorado e explorar “algumas formas menos convencionais de pensar sobre como criar inteligência”, disse Shulman.
A família de Balaji disse que um memorial está sendo planejado ainda este mês no Centro Comunitário da Índia em Milpitas, Califórnia, não muito longe de sua cidade natal, Cupertino.
&copiar 2024 Canadian Press
