Pensata 404 – Edição 21 – por Janaína de Castro Alves
Nossas pensatas são discutidas no Lab404, mas refletem a opinião pessoal.
Nesta semana o pesquisador Jacob Coxon fez uma serie de postagens na rede social X com uma espécie de carta de demissão, denunciando os profundos males que a Inteligência Artificial vai causar à humanidade, nos conduzindo ao fim da aventura humana na Terra, como diz o clássico do carnaval. Jacob fez parte das equipes de pré-treinamento das empresas OpenAI e Anthropic, e afirma que na corrida pelo desenvolvimento, a IA tem potencial de matar a todos nós, e que as empresas não estão sendo responsáveis na condução dos treinamentos das linguagens. Jacob no entanto não discorre sobre COMO a Inteligência Artificial norte americana irá de fato nos conduzir ao apocalipse total.
Na carta de demissão Coxon diz que no estado que estamos, a IA não é capaz de grande estrago, mas que a busca por uma super inteligencia é capaz de eliminar a vida como conhecemos na próxima década. O mercado de tecnologia opera em grande opacidade protegida pelo segredo industrial, então é compreensível que, por terem assinado acordos de confidencialidade, ex-funcionários não possam dar detalhes do que acontece dentro das empresas. Jacob, assim como diversos outros cientistas do setor, afirmam que os perigos são muitos, mas nunca entram em detalhes sobre as práticas ou ações que de fato marcam o setor de tecnologia. Essa opacidade opera em dois sentidos, tanto alimentando o imaginário da máquina consciente que num futuro próximo dominará o mundo quanto nos tornando inertes ao que a IA já está causando no presente com ausência de regulação de para treinamento de modelos. Mas vamos por partes. Vamos entender primeiro se o alarme soado por Jacob faz de fato sentido.
A expansão da Inteligencia Artificial em busca de uma “super inteligencia” capaz de substituir parte das funções humanas depende primordialmente de um fluxo de alimentação de informações intenso, além da intensificação da computação necessária para que elas sejam úteis. Dados (pessoais, geoespaciais, financeiros, enfim, de diversas naturezas) são usados para treinar modelos de linguagem a fim de operacionalizar aquelas informações em predições e análises. A intensificação desse tipo de computação demanda enormes data centers e componentes eletrônicos, que consomem uma enorme quantidade de energia e produzem efeitos ambientais sentidos no uso do solo, da agua, na agricultura, pecuária, fauna e na saúde humana. A construção de infraestrutura de treinamento de modelos tem causado enormes controvérsias na política dos países norte americanos e do sul global, sendo um potencial divisor de aguas para o entendimento jurídico de bens coletivos e naturais. Caso não criemos regulação para a construção de data centers, a humanidade poderá de fato sofrer com a escassez de agua, desvalorização da terra, contaminação de solo e lençóis freáticos, além de acelerar os efeitos da crise climática, causando inundações, incêndios, vendavais e outras tragédias que estão sendo anunciadas há décadas.
Além dos efeitos ambientais, existe uma real preocupação com o avanço de modelos capazes de se replicarem, treinar outros modelos, quebrar protocolos de segurança, hackear infraestruturas bancárias e de uso comum. A preocupação com cybersegurança é altamente legítima e deve sim estar no centro do debate sobre regulação e transparência do desenvolvimento de IAs. No atual momento, as democracias Ocidentais ja possuem regulação para impedir ações maliciosas e criminosas, seja no âmbito criminal ou do direito internacional. Já existe também algum aparato legal de proteção de dados pessoais, mas estamos ainda há léguas de compreender de fato como regular e coordenar processos de treinamento dos modelos de linguagem, especialmente em estruturas proprietárias. O uso primordial de LLMs para fins de vigilância e desenvolvimento arnamentista é o sustentáculo econômico das empresas de tecnologia hoje. Desenvolver modelos capazes de hackear estruturas globais é criar em torno de si uma ameaça bélica real a todos os países do mundo.
E é aí que entra a dupla operação da opacidade do setor de tecnologia: existem ameaças reais à vida como a expansão dos Data Centers, e a falta de transparência, regulação e responsabilização humana nos processos de treinamento e aplicabilidade das LLMs. Mas de que forma esse tipo de declaração alarmista funciona para alimentar ideias não muito verdadeiras de que a potencialidade da IA é positiva e sua inevitabilidade invencível?
Bom, quando Jacob afirma que a super inteligencia do modelo está mais perto do que nunca, e que a corrida para o desenvolvimento da LLM esta sendo “vencida” pelo Vale do Silício, ele dá um sinal pros investidores de que as linguagens são capazes de serem usadas de forma intensificada num suposto conflito belico próximo, assim como tem sido usadas nos territórios da Palestina, Libano e Irã. Esse sinal é bastante conveniente quando as empresas de tecnologia estão prestes a abrir o capital, criando um buzz que alimenta a especulação do mercado financeiro em torno dessas empresas. Guerras geram contratos milionários entre Estados e empresas bélicas. Além disso, cria uma sensação de impotência generalizada, que desarticula o pensamento crítico e os movimentos de resistência.
Essa dupla operação subjetiva, ou as ficções criadas pelos senhores da guerra, acabam por nos atingir no cotidiano sem que a gente se de conta disso. A nossa crise em relação à tecnologia é também estética, pois uma ação de marketing banal como “Chat, crie uma foto minha nos anos 80” é capaz de liderar milhares de novos perfis no ChatGPT/Claude/Gemini banalizando a estética fubanga e embranquecedora da IA generativa, e naturaliza o uso para potenciais consumidores. Nosso desejo de brilhar nas redes sociais em uma imagem coloridinha e uma pele melhorada acaba por banalizar o uso dessas ferramentas. Certamente o Vale do Silício ficou muito feliz de ter um novo banco de dados de imagens dos brasileiros, um dos maiores mercados consumidores do mundo, bem como um país com enorme diversidade de fenótipos. It’s a win win situation para eles, por causa do nosso profundo mau gosto e falta de pensamento crítico.
Nada disso torna a IA generativa essencial para a vida. E ela só será essencial se adotada de maneira intensiva em enormes bancos de dados, o que está longe de acontecer. Por isso, o discurso alarmista e apocalíptico do Jacob crazy eyes Coxon não passa de uma estratégia posicionamento de mercado, ainda que ele afirme textualmente na declaração que não é uma ação de marketing.