IA

Prospecto da Anthropic registra acionamento de regra interna de segurança para IA

Companhia antecipou um critério de supervisão de pesquisa com base no desempenho esperado das próximas gerações de modelos.

Dario Amodei participa de conversa no palco do TechCrunch Disrupt em 2023
Dario Amodei, arquivo · TechCrunch/CC BY 2.0.

A Anthropic informou no prospecto de abertura de capital que passou a considerar atingido um dos patamares de sua política de segurança. O critério mede a capacidade de modelos de inteligência artificial de acelerar a pesquisa em IA. O trecho consta da revisão do documento apresentada em 10 de novembro à SEC, reguladora do mercado dos Estados Unidos, e ganhou destaque nesta segunda-feira (16).

A empresa tomou a decisão com base no desempenho que espera de modelos futuros e no ritmo que observa na pesquisa interna. A política permite acionar o patamar tanto ao medir quanto ao prever um grau de aceleração. A avaliação é da própria Anthropic.

No documento anterior, protocolado em 2 de novembro, a companhia dizia que poderia se aproximar de um patamar de avanço mais rápido. A revisão registra que a empresa passou a aplicar a regra ligada à pesquisa e ao desenvolvimento. Os dois documentos fazem parte do processo de oferta pública.

A Anthropic avalia aumentar o acompanhamento do uso de modelos e reforçar suas revisões internas de segurança. O texto descreve a possibilidade de publicar relatórios adicionais conforme a capacidade dos sistemas progrida.

Na prática, acelerar pesquisa pode significar reduzir o tempo gasto em tarefas que ainda dependem de uma equipe humana. O cenário de autoaperfeiçoamento recursivo vai além disso e supõe um ciclo em que os próprios sistemas contribuam sucessivamente para criar versões mais capazes.

O prospecto documenta o acionamento de um critério interno de supervisão em função de expectativas sobre futuras capacidades. A abertura de capital tem seu próprio calendário e segue as etapas de uma oferta proposta.

Compartilhe

Encontrou um erro? Fale com a redação.

Últimas

Em perspectiva

Mais notícias