Chefes de OpenAI e Anthropic pedem cooperação internacional para controlar riscos da IA

Os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, solicitaram uma maior colaboração internacional para lidar com os riscos associados ao avanço da inteligência artificial durante uma reunião do Conselho de Segurança das Nações Unidas. A declaração dos executivos ocorreu um dia após o discurso do ex-presidente dos Estados Unidos, Donald Trump, que rejeitou um "esquema globalista" para controlar a IA, afirmando que os EUA continuarão a incentivar seu desenvolvimento.

Altman, em sua fala na ONU, destacou a importância de países que competem entre si colaborarem em questões que podem ter impactos significativos. Ele enfatizou que a IA deve ser tratada como uma questão que requer um esforço conjunto entre nações. "Acreditamos que este deve ser um desses momentos", disse Altman, reforçando a necessidade de um diálogo internacional sobre segurança na IA.

A posição dos dois executivos é notável, pois OpenAI e Anthropic são concorrentes diretas no desenvolvimento de modelos avançados de IA. Recentemente, Amodei expressou a necessidade de desacelerar o ritmo de desenvolvimento na indústria, argumentando que o avanço rápido das capacidades dos sistemas de IA pode ultrapassar a capacidade de empresas e governos de entender e controlar seus riscos. Ele propôs que avaliadores independentes tenham acesso aos sistemas das empresas para verificar suas práticas de segurança.

Esse apelo por cooperação internacional pode ter implicações significativas para o futuro da regulamentação da IA, especialmente em um momento em que a tecnologia avança rapidamente e levanta preocupações sobre segurança e ética. A colaboração entre empresas e governos pode ser essencial para garantir que os benefícios da IA sejam alcançados de forma segura e responsável.