Conforme pudemos observar em nossa última edição, a preocupação do TSE com relação à impossibilidade de identificação da originalidade dos vídeos elaborados com o app “Sora 2”, tamanho o grau de sofisticação.
Vale lembrar que de 8 redes sociais utilizadas para divulgação de vídeos utilizando rostos para declarações falsas, somente um identificou a fraude.
Em meio a discussões sobre os rumos da tecnologia, a previsão de que sistemas de inteligência artificial alcancem níveis de autonomia e capacidade superiores aos humanos, feita pelo físico britânico Stephen Hawking em 2014, está mais atual do que nunca.
À época da entrevista de Hawking, muitos enxergaram suas declarações como um cenário distante e exagerado; no entanto, diante da escalada tecnológica atual, tais advertências voltam acompanhadas de análises mais robustas sobre riscos sociais, econômicos e existenciais.
Apesar de o tema ter sido inicialmente recebido com certo ceticismo, as frases proferidas pelo físico continuam ecoando.
Em entrevista à BBC, Hawking afirmou: “O desenvolvimento total da inteligência artificial pode significar o fim da raça humana”.
VEJA A PREVISÃO:
O posicionamento não se baseava em previsões apocalípticas, mas na observação de que máquinas capazes de se auto-aperfeiçoar poderiam evoluir em um ritmo inalcançável para o cérebro humano, ainda preso aos limites da evolução biológica.
Assim, ele apontava que o problema não estaria na hostilidade das máquinas, e sim no desequilíbrio de poder que emergiria de sua competência superior.
Ainda em 2014, enquanto sistemas de IA operavam de modo relativamente restrito e dependiam fortemente de comandos humanos, Hawking já chamava atenção para o perigo de uma autonomia crescente. Ele alertava que, se uma máquina se tornasse apta a redesenhar seu próprio software e aprimorar sua estrutura sem intervenção humana, “estaríamos diante de uma situação inédita – e frágil”.
Hoje, com a expansão vertiginosa das arquiteturas de deep learning e com modelos treinados em escalas colossais, a distância entre aquela previsão e a realidade vem diminuindo gradualmente.
Além das preocupações existenciais, Hawking destacava os efeitos sociais e econômicos da chamada “superinteligência”. Para ele, a automação em massa poderia provocar transformações profundas no mercado de trabalho, afetando desde funções operacionais até postos considerados altamente especializados.
À medida que sistemas inteligentes substituíssem trabalhadores, haveria uma concentração significativa de poder nas mãos de quem controla a tecnologia, ampliando desigualdades estruturais. Segundo o físico, esse avanço “poderia deixar a humanidade em estado vulnerável”, não por um ataque de máquinas, mas pela incapacidade de acompanhar o ritmo de mudanças provocadas por elas.
Enquanto isso, pesquisadores contemporâneos reforçam que o cenário de risco não se resume a suposições teóricas. Pelo contrário, depende de três fatores frequentemente mencionados por quem estuda segurança em IA.
O primeiro é o surgimento de sistemas capazes de se auto-aperfeiçoar de forma recursiva, ampliando sua inteligência sem limites claros. Em segundo lugar, há a preocupação com a falta de alinhamento entre objetivos dessas máquinas e valores humanos, o que poderia gerar consequências imprevisíveis mesmo sem intenções maliciosas.
E, por fim, a inexistência de mecanismos de supervisão que garantam que tais modelos permaneçam sob controle humano direto.
Nesse contexto, especialistas argumentam que ignorar essas possibilidades seria reproduzir o “erro” apontado por Hawking: tratar riscos reais como mera ficção científica.
NO COMANDO
Nem todos os cientistas, porém, compartilham da visão negativa de Hawking sobre a inteligência artificial.
“Acredito que continuaremos no comando da tecnologia por um período razoável de tempo, e o potencial dela de resolver muitos dos problemas globais será concretizado”, opinou o especialista em inteligência artificial Rollo Carpenter, criador do Cleverbot, cujo software aprende a imitar conversas humanas com crescente eficácia.
Carpenter disse que ainda estamos longe de ter o conhecimento de computação ou de algoritmos necessários para alcançar a inteligência artificial plena, mas acredita que isso acontecerá nas próximas décadas.
“Não podemos saber exatamente o que acontecerá se uma máquina superar nossa inteligência, então não sabemos se ela nos ajudará para sempre ou se nos jogará para escanteio e nos destruirá”, disse Carpenter, que apesar disso vê o cenário como otimismo por acreditar que a inteligência artificial será uma força positiva. Ao mesmo tempo, Hawking não está sozinho em seu temor.
ELON MUSK
No curto prazo, há preocupação quanto à eliminação de milhões de postos de trabalho por conta de máquinas capazes de realizar tarefas humanas; mas líderes de empresas de alta tecnologia, como Elon Musk, da fabricante de foguetes espaciais Space X, acreditam que, a longo prazo, a inteligência artificial se torne “nossa maior ameaça existencial”.
A nossa humilde observação, teme não a inteligência artificial em si mas a má utilização dos recursos inovadores por homens mal intencionados, gananciosos e imaturos ainda diante da sofisticação dos novos recursos como o Sora 2 para deepfakes.
Já outros se preocupam mais com o grau de eficiência a qualquer custo, por exemplo: para construir um playground , seria justo exterminar um grande formigueiro.
BILL GATES
Numa recente declaração de Bill Gates, dado um grau futuro de sofisticação, acabaremos sendo como formigas num formigueiro diante da necessidade de construir uma hidrelétrica.
VOZ
Na entrevista à BBC, Hawking também alertou para os perigos da internet, citando o argumento usado por centros de inteligência britânicos de que a rede estaria se tornando “um centro de comando para terroristas”.
Mas o cientista se disse entusiasta de todas as tecnologias de comunicação e espera conseguir escrever com mais rapidez usando o seu novo sistema.
Um aspecto tecnológico que não mudou no sistema é a voz robotizada que externaliza os pensamentos de Hawking. Mas o cientista diz que não faz questão de ter uma voz que soe natural.
“(A voz robótica) se tornou minha marca registrada, e não a trocaria por uma mais natural com sotaque britânico”, disse. “Ouvi dizer que crianças que precisam de vozes computadorizadas querem uma igual à minha.”
