AWS permite implantação de modelos Hugging Face no SageMaker com agentes de codificação

A Amazon Web Services (AWS) anunciou a disponibilização de habilidades open-source que permitem a implantação de modelos Hugging Face no SageMaker AI. Essa nova funcionalidade visa facilitar a implementação de modelos em produção, utilizando agentes de codificação que automatizam diversas decisões necessárias para o processo.

Implantar um modelo Hugging Face envolve várias etapas, como escolher o contêiner de serviço adequado, confirmar a tag da imagem para a região da AWS e selecionar o tipo de instância que corresponda à memória necessária do modelo. Além disso, é essencial configurar a escalabilidade automática para evitar custos desnecessários com horas de GPU em endpoints ociosos. Com as novas habilidades, o SageMaker AI promete reduzir esse trabalho a apenas algumas horas.

Os agentes de codificação, como Kiro e Claude Code, são projetados para lidar com esse tipo de tarefa estruturada e repetitiva. No entanto, a AWS alerta que um agente de codificação sem orientação pode tomar decisões erradas, resultando em endpoints frágeis ou dispendiosos. Para mitigar esses riscos, a empresa recomenda o uso de habilidades que garantem a criação de endpoints robustos e eficientes, com alarmes do Amazon CloudWatch para detectar falhas silenciosas.

As habilidades são compatíveis com Python e a interface de linha de comando da AWS (AWS CLI), funcionando em sistemas operacionais como macOS, Linux e Windows. Além da implantação em tempo real, as habilidades também suportam inferência sem servidor, transformação em lote e importação de modelos personalizados do Amazon Bedrock.