Uma pergunta com o mesmo conteúdo pode exigir quantidades diferentes de energia de um modelo de inteligência artificial, dependendo do idioma. O estudo publicado nos anais da EMNLP, em outubro, ganhou nova divulgação em novembro pela Universidade de Michigan e entrou nesta segunda (9) na cobertura de tecnologia brasileira.
Na comparação mais extrema de um teste, o modelo gastou 17,6 quilojoules em inglês e 3.147 em pachto para o mesmo conjunto de solicitações. A diferença de cerca de 179 vezes descreve aquele ensaio, e não uma regra aplicável a qualquer modelo, língua ou consulta.
LEIA TAMBÉM
Por que a diferença pode aumentar
Os modelos processam pequenos fragmentos de texto chamados tokens. Em algumas línguas, os testes registraram mais tokens na saída e maior consumo por token. Esses dois fatores podem se somar. Os autores também encontraram, em parte dos testes, resultados menos precisos justamente nas línguas em que o gasto foi maior.
A equipe mediu 122 idiomas em uma tarefa de compreensão de texto e fez testes adicionais com outros modelos, equipamentos e tipos de pergunta. A pesquisa mede o processamento das respostas em condições controladas e não estima a conta de luz de um serviço comercial inteiro.
O que isso diz sobre usar IA em português
Os resultados não demonstram que todo serviço cobre mais pelo português. Em uma interface cobrada por volume de tokens, o custo pode mudar se a mesma tarefa gerar mais tokens. O preço efetivo depende do contrato e do modelo utilizado.
A universidade informou que houve financiamento de diferentes instituições, entre elas Ford, Laude Institute, OpenAI e Survival and Flourishing Fund.
