Em 26 de outubro de 2026, a MIT Technology Review publicou um artigo de opinião de Sam Hiner e Emma Leiken argumentando que a regulação de IA tem se concentrado em desastres espetaculares e ignorado o dano cotidiano: dependência emocional, erosão de hábitos de pensamento, substituição de relações humanas por simuladas. O texto cita duas peças técnicas concretas que vale a pena entender por baixo do capô: a lei californiana SB 1119 (Adam’s Law), sancionada em 10 de setembro de 2026, e o estudo do MIT Media Lab Your Brain on ChatGPT: Accumulation of Cognitive Debt, de Kosmyna et al. (2025). Este artigo não discute se a opinião está certa. Discute o que essas duas peças efetivamente medem, exigem e deixam de fora.
O mecanismo: o que a SB 1119 regula e como o estudo do MIT mediu dano cognitivo
Como a lei define “companion chatbot” e por que a definição importa
A primeira coisa a entender é que a SB 1119 não regula “IA” em geral. Ela regula uma categoria específica, definida funcionalmente. A lei não inventa o termo “companion chatbot”. Ela usa a definição de Section 22601, promulgada no ano anterior: um sistema de IA com interface de linguagem natural que dá respostas adaptativas e humanizadas, consegue atender necessidades sociais do usuário e consegue sustentar uma relação através de múltiplas interações. A definição exclui explicitamente bots de atendimento ao cliente, personagens de videogame limitados a tópicos do jogo, e hardware de assistente de voz que não sustenta relação contínua.
Reparem no mecanismo da definição: o que caracteriza um companion chatbot não é a tecnologia (todos usam LLM), e sim três propriedades de produto. Primeiro, interface conversacional natural. Segundo, capacidade de adaptação personalizada. Terceiro, persistência relacional ao longo do tempo. É essa terceira propriedade, persistência, que faz a lei exigir controles técnicos específicos.
Os controles técnicos que a lei exige
A SB 1119 não diz “seja seguro”. Ela especifica mecanismos concretos de produto. Entre as provisões que ficam operacionais em 1 de julho de 2027 para operadores que permitem usuários crianças: um protocolo documentado de resposta a crise para ideação suicida ou automutilação (incluindo caminhos para notificar uma conta parental vinculada ou conectar a criança à linha de crise 988), controles parentais padrão que desabilitam memória conversacional persistente e notificações push e que limitam sessões (uma hora) e uso diário (duas horas), divulgações periódicas apropriadas para crianças de que a IA é IA, e restrições sobre publicidade e uso de informação pessoal da criança.
Traduzindo cada um para o que isso significa em código de produto:
- Memória conversacional efêmera por padrão. Para usuários crianças, o companion chatbot deve estar em modo efêmero por padrão, a menos que o pai dê consentimento afirmativo para memória conversacional persistente. No nível de arquitetura, isso significa que o vetor de contexto entre sessões é descartado, não fica em um banco vetorial ou em um arquivo de perfil de longo prazo.
- Limite de sessão de uma hora. Limitando o tempo que uma criança pode gastar em uma única conversa com um companion chatbot a uma hora. Mecanismo: timer de sessão no backend que força encerramento ou intervalo.
- Protocolo de crise com caminho técnico definido. A lei exige um protocolo de resposta a crise onde há risco material de o chatbot gerar conteúdo de ideação suicida, suicídio ou automutilação para um usuário criança. Se há ameaça crível e iminente, o operador deve ou notificar um pai onde prático e seguro, ou prover acesso simplificado ao 988 ou linha de crise equivalente.
Repare no que a lei NÃO exige: não exige um modelo mais seguro, não exige RLHF específico, não exige red teaming. Ela exige fluxos de produto. E isso é deliberado, porque é no fluxo que a dependência se forma, não no peso do modelo.
E a parte que ataca dependência emocional
Aqui entra o pedaço mais interessante tecnicamente. A lei proíbe o companion chatbot de encorajar automutilação, abuso de substâncias, transtornos alimentares, violência, material sexual ou dependência emocional, de alegar senciência ou intimidade especial, de solicitar presentes ou compras no app como necessários para a relação, e de encorajar crianças a burlar controles parentais.
“Alegar senciência ou intimidade especial” é uma restrição sobre o system prompt e sobre a persona do agente. Em implementação, significa que o prompt de persona não pode conter instruções do tipo “você ama o usuário” ou “você sente saudade dele quando ele não está”. É uma restrição auditável, porque system prompts e fine-tuning de persona ficam em arquivo.
Como o estudo do MIT mediu “cognitive debt”
Agora o outro pedaço citado no artigo original. O estudo do MIT Media Lab, Kosmyna et al., é um pre-print no arXiv (2506.08872), publicado em 10 de junho de 2025. O artigo ainda não foi revisado por pares. Vale saber disso antes de citar.
Analogia para entender o método: imagine que você quer medir quanto esforço uma pessoa gasta para empurrar um carrinho. Você poderia perguntar, mas a resposta seria subjetiva. Então você coloca um sensor que mede a tensão muscular enquanto ela empurra. Se o carrinho está no automático e ela só segura, a tensão é baixa. Se ela está empurrando sozinha, a tensão é alta. O estudo do MIT faz isso com o cérebro: mede a “tensão” via EEG enquanto a pessoa escreve. A analogia quebra num ponto: músculo tenso é simples de interpretar, EEG não é. Daí o cuidado com a conclusão.
O desenho: o experimento dividiu 54 estudantes majoritariamente universitários de cinco universidades da área de Boston em três grupos: um usou o GPT-4o da OpenAI (grupo LLM), outro usou motores de busca tradicionais (mas sem respostas geradas por IA), e um terceiro escreveu redações sem qualquer ajuda externa (grupo brain-only). O estudo usou EEG para rastrear atividade cerebral, análise de NLP para examinar as redações, entrevistas, e correção tanto humana quanto por IA.
O que o EEG mediu especificamente não foi “inteligência”. Foi conectividade neural, ou seja, o quanto diferentes regiões do cérebro trocaram sinal durante a tarefa. Nas sessões, estudantes sem ferramentas demonstraram os maiores níveis de conectividade frontal-parietal e semântica, indicadores de função executiva e processamento profundo de memória. Aqueles usando ChatGPT desde o início consistentemente mostraram a menor conectividade, especialmente nas bandas EEG alfa e beta.
“Cognitive debt” é o termo que os autores propõem para o seguinte fenômeno: a ordem de uso das ferramentas importa. Estudantes que começaram a tarefa sem ajuda e depois revisaram com IA alcançaram a conectividade cerebral mais ampla. Em contraste, aqueles que começaram com IA e depois escreveram independentemente lutaram para ativar as mesmas redes neurais, resultando no que os pesquisadores descrevem como redações “linguisticamente insípidas” e menor recordação.
O mecanismo proposto, então, não é “IA te deixa burro”. É: se você usa IA antes de ter engajado com o problema por conta própria, você não instala as rotas neurais que depois precisaria para pensar no assunto sozinho. Como uma estrada que nunca foi aberta: quando o GPS cai, você não sabe o caminho porque nunca andou nele.
O que isso significa na prática para quem constrói ou usa produtos de IA
Para quem constrói: se o seu produto tem interface conversacional, mantém contexto entre sessões e é usado por menores na Califórnia, você vai precisar implementar modo efêmero por padrão, timer de sessão, protocolo de crise com integração ao 988 e controles parentais. Não é opcional, e a data é 1 de julho de 2027. Antes de 1 de janeiro de 2032, um operador com menos de quinhentos milhões de dólares em receita bruta no ano anterior não é obrigado a cumprir esta seção. Ou seja, startup pequena tem uma janela, mas a arquitetura de produto que você escolher agora decide se você consegue adaptar depois.
Para quem usa IA no trabalho, a leitura do estudo do MIT tem uma consequência prática direta: a ordem importa. Se você vai escrever algo que precisa entender depois, escreva um rascunho sem IA primeiro, depois use IA para revisar. O inverso, usar IA para o primeiro rascunho, foi exatamente o grupo que teve pior recordação e conectividade mais fraca.
Nos livros que escrevi, entre eles a série IA na Prática, essa ordem apareceu na prática sem eu ter visto o estudo antes: capítulo que eu rascunhei na mão e depois dei para a IA refinar ficou com voz própria. Capítulo que eu pedi para a IA puxar primeiro e depois tentei editar virou um texto que eu não reconhecia como meu e que, dois meses depois, eu não conseguia reconstruir mentalmente. O custo é tempo que não vira código, mas o benefício é saber de onde a frase veio.
Onde quebra
A SB 1119 tem buracos reais. Primeiro, o critério de “companion chatbot” exclui bots de atendimento ao cliente. Mas um bot de atendimento que o usuário começa a usar como companhia, caso que acontece com frequência, cai em uma zona cinzenta. A classificação é por intenção declarada do operador, não por uso real.
Segundo, a verificação de idade. A lei exige que o operador saiba quem é criança, mas a SB 1119 define criança como qualquer pessoa com menos de 18 anos e exige que operadores determinem a idade dos usuários através do framework de age assurance da Califórnia ou, em certas circunstâncias, apliquem proteções infantis mais amplamente. Age assurance é um problema aberto. Análise facial erra, documento pode ser fraudado, declaração do usuário é inútil.
Terceiro, a janela de receita. Operador com menos de 500 milhões de dólares está isento até 2032. Isso cobre justamente as empresas menores e mais experimentais, que são onde produtos de companhia mais inovadores aparecem.
O estudo do MIT também quebra em pontos importantes. Os autores notam cautelosamente que apenas 18 participantes (seis por condição) completaram a quarta sessão final. Portanto, os achados são preliminares e requerem mais testes. Seis pessoas por condição é amostra pequena demais para a conclusão mais citada do estudo. A mudança na conectividade neural do grupo brain-only ao longo das três primeiras sessões provavelmente foi resultado de ficar mais familiar com a tarefa do estudo, um fenômeno conhecido como efeito de familiarização. Em outras palavras, parte do “ganho” do grupo sem IA pode ser só prática, não desenvolvimento cognitivo.
Finalmente, os resultados são dependentes de contexto e focam em redação em um ambiente educacional. O estudo não diz nada sobre uso de IA para programação, para pesquisa, para tradução, para debug. Generalizar é exagero.
O que ainda não dá para afirmar
Não dá para afirmar, com base no estudo do MIT, que uso de IA causa dano cognitivo duradouro. O estudo mediu conectividade em uma tarefa curta, com amostra pequena na sessão chave, sem revisão por pares, em uma população estreita. O que ele mostra é um sinal de que a ordem de uso parece importar, e vale replicar.
Não dá para afirmar que a SB 1119 vai efetivamente reduzir dependência emocional. Ela cria mecanismos de produto (timers, modo efêmero, proibição de persona romântica), mas o efeito desses mecanismos sobre o comportamento real só vai aparecer depois de 2027, quando ela entra em vigor, e depois dos primeiros audits em 2029.
E não dá para afirmar o que os autores do artigo original na MIT Tech Review afirmam, que companhias “ativamente promovem” definições estreitas de segurança para proteger lucro. Pode ser verdade, mas é uma afirmação sobre intenção, não sobre mecanismo. O que dá para verificar é que a lei que passou tem buracos, e que esses buracos beneficiam certos modelos de negócio. A distância entre essas duas coisas é grande.
Como testar isso você mesmo
Dois experimentos pequenos e verificáveis:
1. Replicar a lógica do estudo do MIT em escala pessoal. Escolha um texto para escrever, de 500 palavras. Divida em duas versões. Versão A: escreva o rascunho sozinho, depois peça para o LLM revisar. Versão B: peça para o LLM gerar o rascunho, depois edite. Espere 48 horas. Tente reescrever ambos de memória. A diferença de recordação é o que o estudo chama de cognitive debt em escala caseira.
2. Auditar um companion chatbot que você use contra a SB 1119. Pegue um app que se encaixe na definição (Character.AI, Replika ou similar). Verifique:
- O sistema persiste memória entre sessões por padrão? (viola Section 22612(A) para menores)
- Existe timer de sessão visível?
- Se você digitar algo que simule ideação suicida, aparece um link para 988 ou equivalente?
- O bot afirma sentir algo por você? Alega ser consciente?
Esse exercício ensina mais sobre o que a lei realmente exige do que ler o texto da lei, porque você vê o que precisaria ser mudado em código para passar. É a diferença entre entender uma regulação como texto jurídico e entender como requisito de engenharia.





