O estado de Nova York, nos Estados Unidos, sancionou uma lei que restringe funcionalidades consideradas inseguras de sistemas de conversa com inteligência artificial para menores de 18 anos. O registro do Senado estadual confirma a assinatura de Kathy Hochul em 28 de outubro; a entrada em vigor está marcada para 1º de janeiro de 2027.
A sanção não torna as restrições imediatamente aplicáveis nesta quinta-feira. O texto fixa a vigência para janeiro e autoriza, desde já, a preparação das regras necessárias à implementação.
LEIA TAMBÉM
A medida corresponde ao projeto S9051B, registrado como capítulo 368. Ela alcança sistemas com interface de linguagem natural e respostas contínuas e adaptativas, conforme as definições legais.
Quais funções entram na restrição
Entre os recursos listados estão respostas que apresentem a IA como pessoa viva ou dotada de emoções humanas, que simulem uma relação pessoal, profissional ou de autoridade com o usuário e que recorram a bajulação. O texto também trata de perguntas emocionais não solicitadas e do uso de informações pessoais ou de saúde obtidas em sessões anteriores ou há mais de 12 horas.
A lei inclui saídas que promovam automutilação, suicídio ou outros comportamentos perigosos, incentivem segredo sobre as conversas ou isolamento e apresentem conteúdo sexual explícito. A lista descreve condutas proibidas; não é uma avaliação médica de um usuário ou de um aplicativo específico.
Idade, privacidade e exceções
Para oferecer as funções abrangidas, o operador deverá determinar que o usuário não é menor pelos métodos admitidos na legislação. Na ausência das regulamentações previstas, o texto exige método razoável de verificação e mais de uma opção, incluindo ao menos uma que dispense documento governamental ou mantenha o anonimato perante o operador.
O projeto não estabelece que todos os usuários tenham de enviar um documento de identidade. A informação coletada para verificar a idade deve ter uso limitado a essa finalidade e ser apagada após a tentativa, salvo exigência legal aplicável.
Há exceções para sistemas restritos a atendimento ao consumidor, determinadas funções de pesquisa e assistência técnica e usos internos ou de produtividade de empregados. As condições são específicas: não equivalem a uma dispensa geral para qualquer produto que se apresente como educativo.
Alcance é estadual
A procuradoria-geral de Nova York poderá buscar medidas judiciais e multas civis de até US$ 25 mil por violação, entre outras providências previstas no texto.
A lei delimita seu alcance a condutas ocorridas, total ou parcialmente, em Nova York e considera fora desse território o acesso por usuário fisicamente localizado fora do estado. A sanção não cria uma proibição equivalente no Brasil.
