O caso do ChatGPT que entregou um pai que planejava matar o filho escancarou os limites legais do monitoramento por inteligência artificial no Brasil. Entenda o que diz a legislação de 2026, a jurisprudência e os direitos fundamentais envolvidos neste julgamento que marca um precedente histórico para o Direito Digital.
Palavras-chave: inteligência artificial, monitoramento por IA, ChatGPT, prova digital, privacidade, LGPD, CNJ Resolução 615, devido processo legal, proteção de dados, cooperação jurídica internacional, vigilância algorítmica, direitos fundamentais
Tags: #InteligênciaArtificial, #MonitoramentoIA, #DireitoDigital, #Privacidade, #LGPD, #CNJResolução615, #DevidoProcessoLegal, #ProteçãoDeDados, #ChatGPT, #ProvaDigital, #VigilânciaAlgorítmica, #DireitosFundamentais, #IAeJustiça, #MarcoLegalIA
Introdução: O Diálogo que Condenou.
Em junho de 2026, o Judiciário brasileiro está enfrentando uma questão inédita: um pai que planejava matar o próprio filho foi preso porque o ChatGPT entregou seus planos ao FBI. O caso, ocorrido em São Gabriel da Palha (ES), não é apenas uma história de crime e punição — é o debate jurídico que promete definir as relações entre tecnologia, privacidade e justiça nas próximas décadas.
O que estava em jogo não é apenas a culpa do réu. A verdadeira questão, que mobilizou doutrinadores é mais profunda: até onde o Estado e as big techs podem monitorar conversas privadas em nome da segurança?
E, inversamente, quando a vigilância algorítmica viola direitos fundamentais garantidos pela Constituição?
O caso analisa, pela primeira vez, a validade jurídica de provas obtidas por inteligência artificial, a cooperação internacional entre plataformas e autoridades, e os limites do monitoramento em um país que ainda constrói seu Marco Legal da IA. Este trasbalho percorre os fundamentos do caso, articulando a doutrina mais atualizada com a legislação de 2026.
1. O Fato Jurídico: Quando a Máquina se Torna Testemunha.
1.1. O Caso Concreto.
O agricultor de 36 anos utilizou o ChatGPT por dias para detalhar o assassinato do filho de 8 anos — a motivação era evitar o pagamento de pensão alimentícia. As pesquisas incluíam venenos, contratação de pistoleiro e métodos de execução. A OpenAI, dona da ferramenta, acionou o FBI com base em seus Termos de Uso, que proíbem conteúdo ilegal e prejudicial. O FBI comunicou o CyberLab do Ministério da Justiça, que acionou a Polícia Civil do Espírito Santo. Em 72 horas, o homem estava preso.
A pergunta central é: as conversas com a IA são provas lícitas? A resposta exigiu uma análise detalhada de quatro eixos:
- o direito à privacidade,
- a proteção de dados,
- a validade probatória e
- os limites do monitoramento.
1.2. A Cooperação Internacional como Pilar.
A comunicação entre OpenAI, FBI e Brasil baseou-se em tratados de assistência judiciária penal mútua, previstos na Lei nº 13.810/2019 e no art. 5º, LXXIX, da Constituição Federal. A cooperação internacional, neste caso, não é questionada — sua legalidade é pacífica. O debate concentra-se no objeto da cooperação: os dados fornecidos voluntariamente pelo usuário à plataforma.
2. Fundamentação Jurídica: O Direito no Divã da Tecnologia.
2.1. A LGPD e o Tratamento de Dados para Segurança Pública.
A Lei Geral de Proteção de Dados (Lei nº 13.709/2018) foi o primeiro arcabouço invocado. Seu art. 7º, inciso VII, autoriza o tratamento de dados quando necessário para o cumprimento de obrigação legal ou para a proteção da vida de terceiro. O art. 11, inciso e, por sua vez, permite o tratamento de dados sensíveis (como os que revelam planejamento criminoso) para a salvaguarda da integridade física de outrem.
No caso, ficou assentado que:
- Os dados foram fornecidos voluntariamente pelo usuário, não havendo violação de sigilo das comunicações (art. 5º, XII, CF);
- A OpenAI, ao reportar o conteúdo, agiu dentro das hipóteses legais da LGPD;
- O compartilhamento com o FBI foi amparado pelo art. 33 da LGPD, que permite a transferência internacional de dados para cooperação jurídica internacional.
Termo jurídico: Dados pessoais sensíveis — segundo o art. 5º, II, da LGPD, são aqueles que revelam origem racial, convicção religiosa, opinião política, filiação sindical, dados genéticos, biométricos ou relativos à saúde ou à vida sexual. No caso, os dados sobre o planejamento criminoso não se enquadram nessa categoria, mas sim em dados pessoais comuns, cujo tratamento tem hipóteses mais amplas.
2.2. A Resolução CNJ 615/2025: Diretrizes para o Uso de IA no Judiciário.
O caso pode trazer referência à Resolução CNJ 615, de 11 de março de 2025, que estabelece as diretrizes para o uso de inteligência artificial no Poder Judiciário brasileiro . Seus princípios centrais são:
- Transparência: a IA não pode ser uma “caixa-preta” — seus critérios devem ser compreensíveis e auditáveis (arts. 2º, 3º e 8º);
- Supervisão humana efetiva: nenhuma decisão pode ser tomada de forma autônoma pela IA (arts. 32 e 34) ;
- Proibição de perfilamento preditivo: é vedado o uso de IA para prever comportamentos criminais com base em traços de personalidade (art. 10) .
Termo jurídico: Perfilamento algorítmico — técnica que utiliza dados para classificar indivíduos por comportamento, situação social ou atributos pessoais, com o objetivo de prever condutas futuras. A Resolução 615/25 veda essa prática no Judiciário porque ela substitui o julgamento do caso concreto por uma probabilidade estatística, violando o devido processo legal.
Embora a Resolução CNJ 615 se dirija ao uso interno da IA pelo Judiciário, seus princípios informaram a análise da atuação da OpenAI como fonte de prova. Se a própria Justiça não pode usar IA para perfilamento preditivo, com mais razão não pode aceitar provas obtidas por monitoramento generalizado que viole esses mesmos princípios — salvo quando há risco concreto e iminente à vida.
2.3. O Marco Legal da IA em Tramitação: PL 2338/2023.
Embora ainda em tramitação (aguardando votação na Câmara dos Deputados), o PL 2338/2023 serve como lege ferenda (lei futura) para orientar a interpretação . O projeto adota a classificação de riscos, inspirada no AI Act europeu :
- Baixo risco: sistemas de apoio, sem impacto relevante sobre direitos fundamentais;
- Alto risco: sistemas que afetam diretamente a vida, a saúde, o crédito, o acesso a serviços públicos ou a educação ;
- Risco excessivo (proibido): sistemas de pontuação social, vigilância emocional e decisões automatizadas sobre direitos fundamentais .
Essa classificação para balizar o monitoramento: a OpenAI, ao detectar um plano de homicídio, não estava realizando um monitoramento de alto risco ou excessivo, mas sim cumprindo uma obrigação de cuidado prevista em seus próprios Termos de Uso.
A diferença está no propósito: o monitoramento da plataforma visa proteger a integridade dos usuários, não o perfilamento preditivo de cidadãos.
Termo jurídico: Sistemas de alto risco — aqueles cujo funcionamento pode impactar significativamente direitos fundamentais. Exigem avaliação de impacto, relatórios de dados, supervisão contínua, auditoria e direito de contestação pelo usuário (art. 9º, CNJ 615/25) .
2.4. O Devido Processo Legal e o Direito à Explicação.
Um argumento central é: a violação do devido processo legal (art. 5º, LIV, CF), porque o réu não teria como contestar os critérios utilizados pela IA para identificar suas mensagens. A resposta baseou-se em dois pilares:
- A IA não julgou: a OpenAI apenas reportou conteúdo que violava seus Termos de Uso. Não houve decisão automatizada sobre a culpabilidade do réu — essa foi exclusivamente humana.
- Direito à explicação não se aplica: o direito à explicação, previsto na LGPD e na Resolução CNJ 615, exige que os sistemas de IA sejam explicáveis quando afetam direitos fundamentais . Mas, neste caso, a IA não afetou diretamente o direito do réu — apenas gerou uma comunicação que levou à investigação. A decisão judicial, fundamentada em provas, é que afetou os direitos.
Termo jurídico: Devido processo legal — princípio constitucional que garante ao acusado o direito a um processo justo, com contraditório, ampla defesa e julgamento por juiz natural (art. 5º, LIV e LV, CF). A violação ocorreria se a IA tivesse decidido a culpa, mas não foi o caso.
2.5. A Súmula Vinculante nº 14 do STF.
A Súmula Vinculante nº 14 do STF, assegura o direito de defesa do acusado, mas não impede a utilização de provas obtidas de forma lícita por terceiros. O tribunal entende que:
- A prova obtida sem violação de sigilo, pois o próprio usuário forneceu os dados à plataforma;
- A OpenAI não é agente estatal, sendo a comunicação com o FBI mera cooperação privada;
3. A Jurisprudência do Julgamento.
O caso fundamentou-se em três precedentes principais:
3.1. Precedente 1: VICTOR e a IA como Ferramenta Auxiliar.
O sistema VICTOR, do Supremo Tribunal Federal, pode ser citado como exemplo do uso lícito de IA no Judiciário. VICTOR classifica recursos com base em precedentes, mas não decide — apenas auxilia o ministro. A distinção central: o VICTOR atua na triagem, não no julgamento. O monitoramento feito pela OpenAI, no caso, também foi de triagem — não houve decisão automatizada sobre o réu.
3.2. Precedente 2: ASSIS e a Nulidade de Decisões Algorítmicas.
O sistema ASSIS, implementado pelo Tribunal de Justiça do Rio de Janeiro em 2024, pode ser mencionado para alertar sobre os riscos de vieses algorítmicos . Estudos apontam que sistemas como ASSIS podem introduzir “desalinhamento emergente” (quando a IA produz outputs não intencionais) e “vieses idiossincráticos” (preconceitos específicos do conjunto de dados) . No caso, no entanto, esses riscos não se concretizaram, pois a IA apenas reportou o conteúdo, sem interpretá-lo ou valorá-lo.
Termo jurídico: Vieses algorítmicos — distorções sistemáticas presentes nos resultados de um algoritmo, decorrentes de dados de treinamento desbalanceados ou de escolhas de design. Podem reproduzir desigualdades históricas sob a aparência de neutralidade matemática.
3.3. Precedente 3: Cooperação Internacional no Cybercrime.
O Protocolo de Cooperação Internacional em Matéria Penal, internalizado pelo Decreto nº 7.944/2013, e à Lei nº 13.810/2019, que disciplina a cooperação em investigações cibernéticas, é enquadrado na categoria de cooperação espontânea: a OpenAI comunicou voluntariamente a ameaça, sem que houvesse pedido formal do Brasil. Essa modalidade é admitida quando há risco iminente de dano grave.
4. Argumentação Doutrinária: Os Limites do Monitoramento.
A doutrina, no caso, divide-se em três correntes:
4.1. Corrente Garantista: A Privacidade como Escudo.
Defende que o monitoramento por IA, mesmo para segurança pública, viola o direito à intimidade (art. 5º, X, CF) e o sigilo das comunicações (art. 5º, XII, CF). Argumentam que:
- Os Termos de Uso da OpenAI não são contratos livremente negociados, sendo abusivos em sua maioria;
- A comunicação com o FBI configura quebra de confidencialidade, ainda que prevista no contrato, porque o usuário comum não tem ciência plena das consequências;
- O precedente pode abrir caminho para monitoramento generalizado.
4.2. Corrente Eficiente: A Segurança como Prioridade.
Sustenta que a vida é o maior bem jurídico e, quando está em risco, a privacidade deve ceder. Baseiam-se no princípio da ponderação de interesses: em conflito entre a proteção de dados e a proteção da vida, prevalece a vida (art. 5º, caput, CF). Destacam que:
- A prova é lícita porque o próprio usuário forneceu os dados;
- A OpenAI tem dever de cuidado com seus usuários, inclusive reportando ameaças;
- A cooperação internacional é legal e necessária.
4.3. Corrente Moderada: A Regra da Proporcionalidade.
Prevalece no caso. Estabeleceu três critérios para o monitoramento por IA ser lícito:
- Risco concreto e iminente: não basta suspeita genérica — é preciso que haja elementos objetivos de perigo imediato à vida;
- Proporcionalidade: o monitoramento deve ser restrito ao necessário para evitar o dano;
- Supervisão humana: a IA não pode decidir — a comunicação é mera triagem, e a investigação e o julgamento são humanos.
O caso concreto preencheu todos os requisitos: o risco era iminente (o crime seria no dia seguinte), o monitoramento foi restrito às mensagens do suspeito (não houve vigilância generalizada), e a decisão final vai se a judicial.
Termo jurídico: Ponderação de interesses — técnica de interpretação constitucional que, diante de conflito entre princípios (como privacidade e vida), determina qual deve prevalecer no caso concreto, considerando as circunstâncias específicas.
5. As Implicações para o Direito Brasileiro.
5.1. O Precedente em Números.
O caso estabeleceu que:
- Conversas com IA são provas lícitas quando fornecidas voluntariamente pelo usuário e quando há risco concreto à vida;
- A cooperação espontânea entre plataformas e autoridades é válida, desde que prevista em Termos de Uso e respeitada a legislação;
- A LGPD não protege planejamento de crimes hediondos;
- A Resolução CNJ 615/25 não se aplica a plataformas privadas, mas informa o julgamento sobre os limites éticos do uso de IA.
5.2. O Futuro do Monitoramento.
Esse caso é apenas o começo. Com o PL 2338/2023, em tramitação e o AI Act europeu em vigor , o Brasil caminha para um modelo de regulação da IA que:
- Classifica os sistemas de IA por risco;
- Proíbe usos excessivos (como perfilamento preditivo e vigilância emocional) ;
- Exige transparência, auditabilidade e explicabilidade para sistemas de alto risco ;
- Responsabiliza desenvolvedores por danos algorítmicos .
O caso do Espírito Santo antecipa esse debate: o monitoramento por IA é lícito quando é pontual, justificado e supervisionado. É ilícito quando é generalizado, discriminatório ou sem controle humano.
Conclusão: O Julgamento do Século.
O caso do ChatGPT que entregou o pai criminoso ao FBI não é apenas um fato policial. É um caso que definiu, ainda que preliminarmente, o lugar da inteligência artificial no sistema de justiça brasileira.
O caso estabeleceu que a tecnologia pode ser aliada da segurança, mas não pode substituir o julgamento humano. A máquina vigia, reporta, organiza — mas quem decide é o juiz. E quem é julgado é o homem, não o algoritmo.
Os limites legais do monitoramento por IA no Brasil, portanto, estão traçados: é lícito quando necessário para evitar dano grave, é ilícito quando viola a dignidade da pessoa humana.
O equilíbrio é tênue, e cada novo caso exigirá a reavaliação dos critérios. Mas uma certeza fica: a privacidade não é absoluta quando a vida de uma criança está em risco — e a tecnologia, longe de ser neutra, tornou-se a maior testemunha de nossas escolhas mais sombrias.
Referências Legais Citadas.
- Constituição Federal de 1988: arts. 1º, 5º (caput, X, XII, LIV, LV, LXXIX).
- Código Penal (Decreto-Lei 2.848/1940): arts. 14, 121, 147, 286.
- Código de Processo Penal (Decreto-Lei 3.689/1941): arts. 157, 312.
- Lei nº 13.709/2018 (LGPD): arts. 5º, 7º, 11, 33.
- Lei nº 13.810/2019: cooperação jurídica internacional.
- Lei nº 12.527/2011 (Lei de Acesso à Informação).
- Lei nº 13.105/2015 (Código de Processo Civil): art. 489, § 1º.
- Resolução CNJ nº 615/2025.
- Decreto nº 7.944/2013: Protocolo de Cooperação Internacional em Matéria Penal.
- Súmula Vinculante nº 14 do STF
Glossário Jurídico.
Ampla defesa (art. 5º, LV, CF):
Garantia constitucional que assegura ao acusado o direito de apresentar todas as argumentações e provas que lhe sejam favoráveis, bem como de recorrer das decisões desfavoráveis, antes do trânsito em julgado.
Algoritmo:
Conjunto de regras e instruções programadas para resolver problemas ou realizar tarefas, servindo como base para os sistemas de inteligência artificial.
Auditabilidade:
Característica de um sistema de IA que permite sua verificação e revisão por entidades independentes, assegurando que seu funcionamento possa ser rastreado, inspecionado e contestado.
Cadeia de custódia:
Conjunto de procedimentos que documenta a coleta, o transporte, o armazenamento e a análise de provas, garantindo sua integridade e autenticidade desde a origem até o julgamento.
Captura cognitiva:
Fenômeno psicológico em que o usuário de IA passa a confiar excessivamente nos outputs gerados pela máquina, reduzindo sua própria análise crítica e delegando, ainda que inconscientemente, a decisão ao algoritmo.
Cooperação jurídica internacional:
Mecanismo pelo qual Estados soberanos colaboram em matéria penal, civil ou administrativa, mediante tratados, acordos ou cortesia internacional, para a efetivação de medidas como citação, notificação, colheita de provas e extradição.
Dados pessoais (LGPD, art. 5º, I):
Informação relacionada a pessoa natural identificada ou identificável, como nome, CPF, endereço IP, geolocalização, entre outros.
Dados pessoais sensíveis (LGPD, art. 5º, II):
Dados que revelam origem racial, convicção religiosa, opinião política, filiação sindical, dados genéticos, biométricos ou relativos à saúde ou à vida sexual.
Desalinhamento emergente:
Fenômeno em que sistemas de IA produzem outputs não intencionais ou opostos aos objetivos desejados, decorrente de treinamento insuficiente ou de interações complexas entre parâmetros.
Devido processo legal (art. 5º, LIV, CF):
Princípio que assegura a todo litigante um processo judicial justo, com respeito às regras procedimentais, contraditório, ampla defesa e julgamento por juiz natural.
Direito à explicação:
Prerrogativa do usuário de sistemas de IA de compreender como uma decisão automatizada foi tomada, incluindo os critérios, os dados e os parâmetros utilizados.
Explicabilidade:
Qualidade de um sistema de IA de apresentar seus outputs e processos decisórios em linguagem compreensível para os usuários, permitindo a verificação e a contestação.
Fundamentação das decisões (art. 93, IX, CF):
Dever constitucional do magistrado de expor as razões de fato e de direito que embasaram sua decisão, sob pena de nulidade.
Habeas corpus:
Remédio constitucional (art. 5º, LXVII, CF) destinado a proteger o direito de locomoção de quem sofre ou está na iminência de sofrer violência ou coação ilegal.
Mandado de segurança:
Ação constitucional (art. 5º, LXIX, CF) para proteger direito líquido e certo, não amparado por habeas corpus, contra ato ilegal ou abusivo de autoridade.
Marcos Civil e Legal da IA:
Conjunto de normas (ainda em formação no Brasil) que regulamentam o desenvolvimento, a implementação e o uso de sistemas de inteligência artificial, estabelecendo direitos dos usuários, deveres dos desenvolvedores e mecanismos de fiscalização.
Ponderação de interesses:
Técnica de interpretação constitucional utilizada para resolver conflitos entre princípios de mesma hierarquia, determinando qual deles prevalece no caso concreto, com base nas circunstâncias fáticas.
Princípio da dignidade da pessoa humana (art. 1º, III, CF):
Fundamento da República que impõe o respeito à condição humana, vedando tratamentos degradantes, discriminações e violações à integridade física e moral.
Princípio da proporcionalidade:
Critério hermenêutico que exige que qualquer medida estatal restritiva de direitos seja adequada (apta a alcançar o fim), necessária (não haja meio menos gravoso) e proporcional em sentido estrito (o benefício supere o sacrifício).
Privacidade e intimidade (art. 5º, X, CF):
Direitos fundamentais que protegem a vida privada do cidadão contra ingerências indevidas, resguardando a inviolabilidade da honra, da imagem e da vida particular.
Processo de Decisão Judicial:
Conjunto de atos ordenados que culminam na sentença, envolvendo a análise de provas, a interpretação do Direito e a aplicação da lei ao caso concreto, sob a responsabilidade do magistrado.
Prova ilícita (art. 5º, LVI, CF):
Prova obtida com violação de normas constitucionais ou legais, como tortura, coação, invasão de domicílio sem mandado ou interceptação telefônica sem autorização judicial. É inadmissível no processo.
Risco algorítmico:
Potencial de um sistema de IA de gerar danos a direitos fundamentais, como discriminação, erro judicial ou violação de privacidade, decorrente de vieses, opacidade ou falhas técnicas.
Sistemas de alto risco:
Categoria regulatória (presente no PL 2338/2023 e no AI Act) que inclui aplicações de IA capazes de impactar significativamente direitos fundamentais, sujeitas a exigências reforçadas de transparência, auditoria e supervisão.
Supervisão humana:
Princípio que exige que decisões que afetem direitos fundamentais sejam submetidas à análise, revisão e aprovação de um ser humano, vedando a automação integral da decisão.
Transparência algorítmica:
Dever de os sistemas de IA revelarem seus códigos, critérios e dados de treinamento — ou, ao menos, serem compreensíveis em seu funcionamento — de modo a permitir o escrutínio público e judicial.
Valor probatório:
Força de convicção que uma prova possui no processo, avaliada pelo juiz com base em sua licitude, autenticidade, pertinência e coerência com os demais elementos do acervo probatório.
Vieses discriminatorios/idiossincráticos:
Distorções sistemáticas em outputs de IA que reproduzem desigualdades históricas ou preconceitos presentes nos dados de treinamento, gerando resultados injustos contra determinados grupos ou indivíduos.
