*Carlos Rafael das Neves
A carta aberta, assinada por cientistas e endossada por executivos de empresas como Microsoft, Google, Amazon, Meta e Tesla na última semana, pedem uma pausa de seis meses no desenvolvimento de novas tecnologias em Inteligência Artificial (IA), como o GPT-4, mais avançado que o ChatGPT.
Eles questionam sobre a possibilidade de diminuição do ritmo de desenvolvimento da IA, ou mesmo a criação de restrições, eles afirmam que a tecnologia pode trazer riscos e pedem a melhoria de transparência, governança e as medidas protetivas.
Para Carlos Rafael das Neves, professor de Sistemas de Informação da ESPM e especialista em Arquitetura de Software, o pedido demonstra claramente que os especialistas perceberam a possibilidade de um cenário não muito agradável no presente/futuro. “Para o mundo real, esse panorama pode ser o pior possível. A sociedade deve ser capaz de enxergar os reais impactos causados pelas novas tecnologias no seu dia a dia”, diz.
O especialista analisa que a IA avança rapidamente e traz resultados que podem ser positivos, negativos ou numa forma combinada entre os dois. “Os algoritmos que regem as inteligências artificiais devem ser 100% públicos e transparentes. Contudo, isso nem sempre será possível, visto que os algoritmos constituem o núcleo dessas inteligências, e, em um mercado com diversas empresas disputando uma corrida desenfreada em busca de melhores algoritmos, sua divulgação pode significar a entrega da tecnologia empregada a concorrência”, diz.
Neves também destaca que deve ser avaliada toda e qualquer inteligência artificial, para não prejudicar a sociedade mundial. “A rápida substituição da mão de obra humana, de uma parcela considerável de profissionais, por ferramentas automáticas pode causar ondas de desemprego e pobreza em massa, pois a velocidade com que essas mudanças podem ocorrer torna impensável a possibilidade de realocação profissional”.
A carta repercutiu fortemente no cenário global, e apenas dois dias após o assunto viralizar na internet, a Itália tornou-se o primeiro país a banir o Chat GPT. As autoridades italianas justificaram a decisão alegando recolhimento ilegal de informações pessoais por parte do sistema de IA.
“A criação de um marco regulatório e mecanismos de governança podem contribuir para mitigar os riscos associados à tecnologia e garantir que seus benefícios sejam amplamente compartilhados. Há necessidade de preparar a sociedade para essas mudanças é urgente e inadiável”, afirma.
*Carlos Rafael das Neves, professor de Sistemas de Informação da ESPM e especialista em Arquitetura de Software
