Radical Numerics utiliza IA para avançar na biosegurança e defesa biológica

A Radical Numerics, co-fundada por Eric Nguyen, está utilizando modelos de inteligência artificial para avançar na biosegurança e na defesa biológica. Nguyen destaca que, embora os mesmos modelos que aumentam as capacidades biológicas possam ser usados para fortalecer a defesa, é crucial que as capacidades de defesa cibernética se mantenham atualizadas em relação às ameaças emergentes.

Durante uma conversa, Nguyen mencionou que a criação de vírus a partir do zero foi um desafio significativo, especialmente quando ele estava em Stanford. Inicialmente, a aceitação dos Modelos de Linguagem Genômica (GLMs) foi baixa, pois muitos biólogos duvidavam de sua eficácia e não viam aplicações relevantes além das já existentes. No entanto, com persistência, ele conseguiu demonstrar o potencial desses modelos.

A discussão sobre biosegurança se intensificou após ataques recentes, como o que ocorreu entre a OpenAI e a Hugging Face, levantando a questão sobre o que mais deve ser considerado em termos de segurança. Clem Delangue, da Hugging Face, argumenta que as capacidades defensivas em guerra cibernética precisam ser abertas e acompanhar as capacidades de ataque dos modelos de ponta.

A Radical Numerics, ao compartilhar seus modelos abertamente, contribui para que ferramentas de defesa estejam disponíveis para todos, permitindo que mais defensores tenham acesso a tecnologias que podem ajudar a mitigar riscos biológicos e cibernéticos. "A segurança em IA não será resolvida por uma única empresa em segredo", afirma Adrien Carreira, ressaltando a importância do acesso aberto.