De acordo com Dario Amodei, IAs têm potencial para aumentar o risco na segurança global devido a tecnologias em armas e construção de armas biológicas.
O diretor executivo da empresa Anthropic e ex-vice-presidente de Pesquisa da OpenAI, Dario Amodei, compartilhou uma perspectiva assustadora durante uma entrevista recente ao jornalista Ezra Klein, do The New York Times, sobre o futuro da Inteligência Artificial (IA). Amodei alertou que, até 2025 a 2028, as IAs podem atingir um patamar de autonomia que possibilitará sua própria sobrevivência e reprodução, o que representa um desafio significativo para a segurança global, tanto geopolítica quanto militar. Neste contexto, a Anthropic estabelece critérios de segurança para as Inteligências Artificiais, conhecidos pela sigla ASL.
É fundamental que a sociedade esteja atenta aos avanços e desafios que a Inteligência Artificial (IA) traz consigo. A implementação responsável da IA é crucial para garantir que possamos colher os benefícios dessa tecnologia inovadora. Portanto, a discussão contínua sobre a ética e segurança das IAs é essencial para moldar um futuro equilibrado e sustentável. Devemos trabalhar juntos para garantir que a evolução das IAs seja benéfica para a humanidade, respeitando ao mesmo tempo as preocupações existentes. A colaboração entre especialistas e reguladores é fundamental para alcançar esse objetivo.
Impacto da Inteligência Artificial no Desenvolvimento de Armas Biológicas
Amodei menciona que atualmente estamos no nível 2 da evolução da Inteligência Artificial, onde os modelos de linguagem podem gerar informações potencialmente perigosas, como a construção de armas biológicas. No entanto, ele ressalta que essas informações ainda são pouco confiáveis, representando um risco relativamente baixo. A Tecnologia em armas biológicas é um tema preocupante, destacando a necessidade de regular e monitorar de perto o avanço das IAs.
Avanços da IA e os Riscos Associados
Microsoft apresenta uma IA inovadora que transforma fotos estáticas em imagens que falam e se movem, mostrando o constante desenvolvimento tecnológico. No entanto, há debates no Web Summit Rio 2024 sobre os potenciais impactos negativos da Inteligência Artificial. O Exame de sangue com IA, capaz de detectar precocemente nove tipos de câncer, demonstra o poder benéfico dessa tecnologia. Torna-se evidente que, à medida que avançamos para o nível 3 da evolução da IA, o potencial de riscos, como o uso em armas biológicas e cibernéticas, aumenta significativamente.
O Futuro da IA e os Desafios Emergentes
Há uma crescente preocupação com o potencial alcance do nível 3 da IA, que pode ser alcançado em breve. Nesse estágio, o risco de desastres é consideravelmente maior, com a possibilidade de utilização das tecnologias em armas biológicas e cibernéticas. Além disso, Amodei destaca que o nível 4, ainda especulativo, poderá trazer características como autonomia e habilidade de persuasão, levantando questões sérias sobre a segurança global diante do uso militar dessas tecnologias.
Diante desse cenário, é crucial monitorar de perto o desenvolvimento e a aplicação das IAs, especialmente considerando o potencial de estados em aumentar suas capacidades militares com essa tecnologia. Com investimentos de empresas como Amazon e Google, a Anthropic lançou seu próprio modelo de linguagem, o Claude, enfatizando uma abordagem mais responsável no desenvolvimento de IA em comparação com a OpenAI. A Inteligência Artificial da Anthropic, em sua terceira versão desde março deste ano, destaca a importância da ética e segurança no avanço tecnológico.
Fonte: © CNN Brasil
Comentários sobre este artigo