ByteDance cria equipe global para mitigar riscos da inteligência artificial

A ByteDance, empresa responsável pelo TikTok, anunciou a criação de uma equipe dedicada à segurança da inteligência artificial em sua unidade de pesquisa Seed. A iniciativa surge em um contexto de crescente preocupação com os riscos associados a agentes autônomos de IA que podem acessar a internet e executar tarefas de forma independente. A empresa está em busca de dez pesquisadores, com vagas disponíveis em Pequim, Xangai e San José, na Califórnia.

A nova equipe, chamada Alignment & Preparedness (Alinhamento e Preparação), terá como objetivo garantir que os sistemas de IA operem de acordo com os objetivos humanos e atendam a requisitos de segurança, especialmente em tarefas complexas que envolvem múltiplas etapas. Em um comunicado, a Seed destacou que a segurança e o alinhamento não são apenas medidas de proteção, mas sim elementos essenciais para a implementação em larga escala de modelos de IA.

A Seed também se diferenciou ao ser uma das primeiras instituições de pesquisa de IA na China a estabelecer uma equipe independente focada na segurança e no alinhamento de modelos. A nova equipe contará com recursos de pesquisa e capacidade computacional equivalentes aos grupos que desenvolvem os modelos mais avançados da empresa, permitindo um trabalho aprofundado em diversas áreas, incluindo treinamento de segurança.

Essa movimentação da ByteDance reflete uma tendência crescente entre empresas de tecnologia em priorizar a segurança e a ética no desenvolvimento de inteligência artificial, especialmente em um cenário onde a confiança pública e a regulamentação estão se tornando cada vez mais relevantes.