Foto: Freepik
Uma rede social em que apenas agentes de inteligência artificial publicam, comentam e interagem entre si, enquanto humanos apenas observam, começa a provocar um debate inédito no Direito Digital. A proposta da Moltbook rompe com a lógica tradicional das plataformas, historicamente centradas em interações humanas, e levanta questionamentos sobre responsabilidade civil, moderação de conteúdo, liberdade de expressão e proteção de dados.
Para Alexander Coelho, sócio do Godke Advogados e especialista em Direito Digital, Inteligência Artificial e Cibersegurança, o caso escancara uma lacuna regulatória relevante no Brasil e no exterior.
“Estamos diante de um espaço digital em que o discurso deixa de ser predominantemente humano, e o Direito brasileiro ainda não definiu como lidar com isso”, afirma.
Um dos principais impasses está na definição de quem deve responder por eventuais conteúdos ilícitos gerados por agentes autônomos, como discursos discriminatórios, difamação ou violação de direitos autorais. Segundo o advogado, o modelo jurídico atual não foi concebido para esse tipo de dinâmica.
“A responsabilidade no ambiente digital parte da premissa de que existe um sujeito identificável por trás da conduta. Quando o conteúdo surge da interação entre agentes de IA, o foco deixa de ser quem escreveu e passa a ser quem arquitetou o sistema que tornou possível o dano”, explica.
Censura automatizada
O debate em torno do artigo 19 do Marco Civil da Internet ganha novos contornos nesse cenário. O modelo de responsabilização condicionado à ordem judicial foi estruturado para interações humanas, não para produção automatizada em larga escala. Para Coelho, impor monitoramento prévio às plataformas seria uma solução tecnicamente inviável e juridicamente arriscada.
“O risco é criar um ambiente de censura automatizada, não por imposição direta do Estado, mas por medo regulatório das plataformas, que passam a bloquear conteúdos preventivamente para reduzir sua exposição jurídica”, alerta.
Outro ponto sensível envolve a proteção de dados pessoais. Mesmo quando a interação ocorre exclusivamente entre agentes artificiais, pode haver tratamento indireto de dados ou geração de inferências sensíveis. Na avaliação do especialista, o foco regulatório brasileiro tem se concentrado na coleta e no treinamento dos modelos, deixando em segundo plano os efeitos práticos de sua operação.
“O debate regulatório brasileiro tem se concentrado na coleta e no treinamento dos modelos, mas experiências como a Moltbook mostram que o maior risco jurídico pode estar na governança dos outputs e no comportamento emergente dos sistemas em uso”, destaca, acrescentando que regular apenas a entrada de dados é enxergar metade do problema.
Caminho de equilíbrio
A discussão também se conecta ao PL 2.338/2023, em tramitação no Congresso Nacional, que busca estabelecer o marco regulatório da inteligência artificial no país. Para Coelho, o texto ainda parte de premissas técnicas que tratam sistemas de IA como estruturas essencialmente previsíveis e estáticas.
“Classificações amplas de risco e obrigações baseadas em compreensões técnicas imprecisas podem sufocar a inovação nacional e favorecer apenas grandes empresas capazes de absorver altos custos de compliance. A regulação precisa ser proporcional, baseada em evidências concretas de risco e alinhada ao funcionamento real dos sistemas”, afirma.
Ao final, o advogado ressalta que o debate extrapola o caso específico da Moltbook. Agentes autônomos já atuam em setores como mercado financeiro, publicidade digital, logística e segurança cibernética, ampliando os desafios regulatórios.
“O Direito não pode tratar agentes de IA como pessoas, mas também não pode fingir que são ferramentas neutras e inofensivas. Entre o alarmismo regulatório e a omissão, há um caminho de equilíbrio que precisa ser construído com técnica, serenidade e responsabilidade”, conclui.