A IA e a questão da fraude

 

Nos últimos tempos, ler um texto passou a trazer consigo um incômodo: a dúvida sobre se há alguém de fato por trás daquelas frases. Editores e professores passam a ler originais como quem procura indícios de falsificação. Se a dúvida se instala com força suficiente, trabalhos escolares são recusados, concursos se anulam e editoras recolhem livros publicados. 

Entendo a razão da desconfiança. A IA produz em poucos segundos textos fluentes, bem ordenados. Essa facilidade ameaça formas de seleção e julgamento que dependiam da suposição de um trabalho pessoal. Em consequência, textos mais bem resolvidos, menos problemáticos, acabam sofrendo escrutínio até mais rigoroso do que textos falhos, justamente porque a falha ainda parece sinal de presença humana.

No ambiente de exame ou de competição, qualquer participação da IA – como apoio ou como motor da escrita – tende a ser descrita como fraude. Meu ponto aqui é que a acusação de fraude, por mais inteligível que seja, é conceitualmente pobre. Ela supõe que o problema está simplesmente na presença da máquina. Como se a simples presença da IA bastasse para condenar o texto, e sua ausência bastasse para garantir autoria. As coisas, a meu ver, não são assim tão simples. A fraude existe em determinadas situações. Ela existe quando a participação da máquina serve para simular um trabalho que não foi feito ou uma experiência que não foi vivida por quem assina o texto, ou para substituir o trabalho de recusa e de conquista da forma que faz de uma página algo mais do que uma redação eficiente.

É claro que isso cria um problema prático para escolas, concursos e editoras. Não se pode pedir a uma banca que faça psicanálise da relação entre o autor e cada frase. Tampouco se pode ignorar a produção massiva de textos fabricados, enviados sem nenhum trabalho real de composição. Há aqui, portanto, uma dificuldade objetiva. Mas a discussão empobrece quando passa depressa demais da pergunta “houve IA?” para a sentença “então é fraude”. Seria preciso perguntar também que tipo de uso houve e que responsabilidade o autor assumiu pela forma final.

É nesse ponto que, para mim, a comparação entre a IA e o inconsciente lacaniano pode ajudar. A inteligência artificial trabalha com linguagem, e por isso convida à aproximação. Também ela recombina materiais e devolve frases que às vezes parecem dizer mais do que se havia pedido. A fórmula de Lacan – o inconsciente é estruturado como uma linguagem – parece abrir uma passagem imediata. Mas a passagem se fecha se esquecermos a diferença principal: a IA opera com linguagem sem recalque.

A máquina imita estilos e aproxima materiais dispersos a partir de um repertório imenso, maior do que aquele que qualquer um de nós tem na cabeça ou na biblioteca. Mesmo assim, ela pode errar, contradizer-se, inventar o que não sabe. E ela erra. Mas a falha, nela, tem outro estatuto, diferente da falha num ser humano. No sujeito, a falha pode vir carregada de desejo, vergonha, alguma forma de retorno do recalcado — alguma coisa que insiste contra aquilo que o eu gostaria de preservar. A IA pode produzir a aparência verbal de um ato falho ou de uma confissão constrangida. Mas essas formas não correspondem, nela, a uma experiência.

No inconsciente lacaniano, a linguagem não é apenas um instrumento de que o sujeito dispõe. Ela o atravessa. Um lapso ou uma palavra trocada por outra são pontos em que alguma coisa se diz apesar daquele que fala. O sujeito está implicado na linguagem, e é aí que se divide. Entre aquilo que imagina estar dizendo e aquilo que acaba por dizer abre-se um intervalo – e é nesse intervalo, muitas vezes, que aparece alguma coisa do desejo, embora apareça deformada.

A IA pode ser descrita, nesse sentido, como uma cadeia significante sem sujeito. Essa é a sua novidade: uma massa de linguagem que se organiza e se apresenta sem sujeito. Ela produz linguagem sem corpo e sem história libidinal. Apenas efeito de cálculo e recombinação. Já o inconsciente, quando aparece, retorna e perturba a intenção de quem fala. A comparação, portanto, só me parece aceitável se a consciência dessa diferença permanecer ativa.

A questão muda, fica ainda mais complexa, eu creio, quando deixamos de falar da IA em si e passamos a considerar o seu uso por um escritor. A máquina não precisa ter inconsciente para produzir efeitos sobre o inconsciente de quem escreve ou de quem lê. Esse é o ponto que me interessa. Sobre o escritor, ela pode funcionar como um dispositivo externo de pressão. Ela recebe uma massa de material narrativo – muitas vezes, um material ainda mal separado da experiência – e o processa segundo padrões de coerência que não são os do escritor. Ao fazer isso, pode lhe mostrar uma relação que ele evitava nomear, ou uma frase que talvez não quisesse escrever.

Ou seja, a IA não se divide, mas pode devolver uma frase que divide o escritor. O recalcado, se aparece, aparece no sujeito que se vê atingido por uma recombinação inesperada de seus próprios materiais. A máquina funciona, nesse caso, menos como autora do que como uma espécie de espelho deformante, que devolve a matéria com outra disposição, e por isso torna visível uma relação que, no fluxo da lembrança ou da invenção, permanecia protegida.

É por isso que a acusação simples de fraude me parece insuficiente. Se a máquina oferece frases fluentes e cenas que parecem resolver bem demais o problema, e o escritor as incorpora apenas por essa facilidade, sem dúvida há perda. Pode resultar um texto que funciona. Mas a frase, nesse caso, não traz nenhum risco: a IA escreveu algo neutro, no lugar em que o escritor deveria ter suportado a dificuldade da própria formulação.

Outra coisa acontece quando a formulação incomoda. Uma frase vinda de fora pode atingir justamente o ponto que o escritor não conseguiria formular sozinho, não por falta de capacidade técnica, mas porque ali começa a sua defesa. Nesse caso, a tarefa é perguntar por que aquela frase ou formulação o feriu. O incômodo produzido nele mostra que ali há matéria a ser trabalhada. A partir dessa percepção, a frase precisa ser deslocada, talvez escondida numa cena, talvez apagada. Mesmo se for apagada, pode ter cumprido sua função: mostrou-lhe onde estava a resistência.

No meu caso, um exemplo simples bastaria. Se, no meio de um trabalho sobre dependência, corpo, cuidado e vergonha, aparece uma frase como “Minha mulher não tinha nojo de mim”, o problema não é saber apenas se a frase foi inicialmente proposta pela máquina. O problema é saber o que essa frase faz comigo. Ela me constrange? Parece verdadeira demais? Expõe uma humilhação que eu vinha contornando? Talvez não deva ser dita assim. Talvez deva aparecer apenas como gesto, como mal-estar. Talvez deva desaparecer do texto e continuar agindo por baixo dele.

A frase, nesse caso, interessa pelo incômodo que causa. E o incômodo é precisamente o ponto em que o trabalho autoral começa. Talvez a frase seja ruim. Talvez seja direta demais. Talvez, no meu texto, ela não possa aparecer dessa forma. Mas ela localizou uma ferida. A partir daí, como autor, eu terei de decidir se a aceito, se a desloco ou se a apago. A autoria está nesse confronto: ou eu respondo por ela ou a apago. Mas ela não me é indiferente. A autoria, nesse quadro, depende menos da pureza da origem do que da responsabilidade pela forma.

Nunca acreditei na imagem da literatura como criação pura, saída de uma interioridade isolada. A escrita real é mais impura. Ela se constrói a partir de formas herdadas, leituras, conversas, frases ouvidas ao acaso. Há também a interferência dos outros, mesmo quando aparece apenas como objeção antecipada ou desejo de aplauso. A ideia romântica de uma subjetividade soberana, que extrai de si mesma a forma inteira da obra, me parece explicar mal o trabalho efetivo da escrita. Um romance ou um poema nasce e se compõe de materiais que não pertencem inteiramente ao autor. O que passa a pertencer a ele é o modo como esses materiais são aproveitados, submetidos a uma necessidade de forma.

Isso não absolve o uso da IA, é claro. Apenas desloca o lugar da responsabilidade, talvez tornando-a mais exigente. Quem usa a máquina precisa saber se está usando a linguagem recebida como atalho ou como resistência. Se a IA produz uma página inteira que apenas resolve o problema, dá fluência ao material e evita o ponto doloroso, o resultado pode ser aceitável como redação, mas não me parece suficiente como literatura. A máquina, nesse caso, protegeu o escritor de si mesmo.

Por outro lado, se a IA devolve uma formulação que obriga o escritor a reconhecer uma defesa, o quadro muda porque a frase recebida se tornou parte de um processo em que houve risco e trabalho de forma. A presença da máquina, por si só, não garante o valor do texto. Mas também não o invalida. O que importa é o que acontece depois.

Do ponto de vista de uma editora ou de um concurso literário, a fraude tende a aparecer como falsificação do produto. A editora publica e vende a promessa de uma experiência humana organizada em linguagem; o leitor ou o crítico descobre, ou julga descobrir, que recebeu uma imitação fabricada por máquina: é a fraude! Esse ângulo do debate me atrai pouco. Há muitos modos de falsificar a experiência, e um deles, talvez o mais comum, é simplesmente não saber transformá-la em linguagem.

O quadro, portanto, é mais complicado, já que o resultado textual da interação com a máquina pode ser muito bom e atuar sobre o leitor como qualquer texto exclusivamente humano. Mas pode também ser banal, como é banal a maior parte da produção literária desde a popularização do livro e da leitura. Além disso, no meio editorial a autoria em muitos casos não é individual: além do copidesque, há os “leitores sensíveis” e outras formas de controle do produto, sobretudo quando o livro se destina à escola ou a circuitos institucionais.

Por isso, quando se discute fraude, talvez seja preciso deslocar ou alterar a pergunta. “Houve IA?” pode ser uma pergunta prática, necessária em certos contextos. Como determinação da autoria, porém, é e será cada vez mais insuficiente. A pergunta mais difícil de responder é se o escritor se escondeu atrás da máquina ou se deixou atingir por aquilo que ela lhe devolveu. O resto decorre daí: a frase pode funcionar como disfarce, mas pode também tornar o conflito mais difícil de evitar.

Do meu ponto de vista, só há uma questão relevante, no caso do uso da IA: ele começa a se tornar fraudulento quando protege o escritor de sua resistência. Pode ter interesse literário, ao contrário, quando ajuda a localizá-la. Nesse ponto, a máquina apenas aponta a ferida. O que se faz depois disso — inclusive apagar a frase — já pertence ao trabalho da literatura.