Nolan quer que ‘Oppenheimer’ sirva de alerta para Vale do Silício

Na época em que J. Robert Oppenheimer soube que Hiroshima havia sido atingida, ele começou a lamentar profundamente seu papel na criação daquela bomba. A certa altura, ao se encontrar com Harry S. Truman, presidente dos EUA na época, Oppenheimer chorou e expressou seu pesar.

Para quem tem pressa:

• Christopher Nolan, diretor de “Oppenheimer”, disse que torce para seu filme servir de alerta a profissionais do Vale do Silício;
• “O que eu gostaria que eles tirassem [do filme] é o conceito de responsabilidade”, disse o cineasta;
• Nolan se referiu a uma ampla variedade de inovações tecnológicas adotadas pelo Vale do Silício, principalmente algoritmos e inteligência artificial.

Truman o chamou de bebê chorão e disse que nunca mais queria vê-lo. E Christopher Nolan espera que quando pessoas do Vale do Silício assistirem a “Oppenheimer” – que chega aos cinemas nesta quinta-feira (20) – eles também vejam algo de si mesmos nele.

Leia mais:

Alerta em ‘Oppenheimer’

Depois de uma exibição de “Oppenheimer” no The Whitby Hotel no fim de semana, Nolan se juntou a um painel com cientistas e Kai Bird, um dos autores do livro biográfico “Prometeu Americano: O Triunfo e a Tragédia de J. Robert Oppenheimer” (obra na qual o filme se baseia), para falar sobre o filme.

Rolaram debates breves sobre o sucesso da dissuasão nuclear e Thom Mason, o atual diretor de Los Alamos, falou sobre quantos funcionários de laboratório atuais tiveram participações especiais no filme, porque grande parte dele foi filmado nas proximidades.

Porém, no final da conversa, o moderador, Chuck Todd, do Meet the Press, perguntou a Nolan o que ele esperava que o Vale do Silício aprendesse com o filme.

Acho que o que eu gostaria que eles tirassem [do filme] é o conceito de responsabilidade. Quando você inova por meio da tecnologia, precisa garantir que haja responsabilidade.A ascensão de empresas nos últimos 15 anos falando sobre palavras como ‘algoritmo’, sem saber o que elas significam em qualquer tipo de sentido matemático significativo. Eles simplesmente não querem assumir a responsabilidade pelo que esse algoritmo faz.

Christopher Nolan, diretor de “Oppenheimer”

O cineasta se referiu a uma ampla variedade de inovações tecnológicas adotadas pelo Vale do Silício, enquanto essas mesmas empresas se recusaram a reconhecer os danos que causaram repetidamente.

Inteligência artificial

O diretor continuou dizendo que este raciocínio aplicado à IA (inteligência artificial) “é uma possibilidade terrível e aterrorizante”.

Até porque, à medida que os sistemas de IA entram na infraestrutura de defesa, eles serão carregados com armas nucleares. E se permitirmos que as pessoas digam que essa é uma entidade separada da pessoa que está empunhando, programando e colocando a IA em uso, então nós estamos condenados. Tem que ser sobre responsabilidade. Temos que responsabilizar as pessoas pelo que fazem com as ferramentas que possuem.

Christopher Nolan, diretor de “Oppenheimer”

Embora Nolan não tenha se referido a nenhuma empresa específica, não é difícil saber do que ele está falando.

Empresas como Meta, Google e Microsoft dependem fortemente de algoritmos para adquirir e manter suas audiências. E, muitas vezes, há resultados imprevistos e frequentemente hediondos para essa confiança.

Agora, enquanto uma turnê de desculpas é virtualmente garantida dias depois que o algoritmo de uma empresa faz algo terrível, os algoritmos permanecem.

O Threads, por exemplo, foi lançado recentemente com um feed exclusivamente algorítmico.

Ocasionalmente, as empresas podem fornecer uma ferramenta, como fez o Facebook, para desligá-lo. Mas a caixa preta desses algoritmos permanecem, com muito pouca discussão sobre todos os possíveis resultados ruins e muita discussão sobre os bons.

Quando falo com os principais pesquisadores no campo da IA, eles literalmente se referem a isso agora como seu ‘momento Oppenheimer’. Eles estão olhando para a história para dizer quais são as responsabilidades dos cientistas que desenvolvem novas tecnologias que podem ter consequências não intencionais.

Christopher Nolan, diretor de “Oppenheimer”

Com informações de The Verge

Já assistiu aos novos vídeos no YouTube do Olhar Digital? Inscreva-se no canal!