As ferramentas de inteligência artificial (IA) podem auxiliar na busca de respostas ou ações necessárias durante a produção da escrita, mas o toque humano, a visão e estilo próprio do escritor são a sua a marca registrada. Ética e honestidade devem ser consideradas no processo criativo. A pergunta que se faz é, qual o limite para o uso da IA?
Não sou especialista no assunto, mas com a proliferação de livros gerados por IA nas livrarias online, busquei informações e análises sobre esse movimento que está sacudindo o universo literário e trago aqui para uma reflexão conjunta. Há uma linha tênue que separa o uso ético na produção de conteúdo verdadeiro das produções falsas, o que torna difícil aos leitores comuns identificarem o que é genuíno do que é apenas imitação.
As ferramentas de IA podem auxiliar no processo da produção literária, sim, mas a verdadeira originalidade ainda reside na mente humana. Então como um escritor pode ser original, mesmo usando a inteligência artificial na sua escrita? Esta é a pergunta que fiz ao ChatGPT, e recebi a seguinte resposta: "Um escritor original, mesmo ao usar a IA, é aquele que consegue infundir sua visão única, estilo pessoal e profundidade emocional em cada linha que escreve."
Conhecer para identificar
O escritor britânico de origem indiana Salman Rushdie argumenta que os escritores não devem utilizar a IA e nem devem se preocupar com possíveis imitações. Na opinião do autor de "Os versos satânicos", "Haround e o Mar de Histórias", entre outros títulos, "a inteligência artificial generativa será capaz de escrever roteiros para filmes e livros de alguns gêneros, como - thrillers e ficção científica -, onde o que importa não é a originalidade da voz ou da linguagem". Em entrevista à revista francesa La Nouvelle Revue Française (NRF), publicada em março deste ano, Rushdie reconhece que ferramentas de IA podem ajudar na geração de ideias, estruturação de narrativas e até na criação de diálogos, oferecendo novos caminhos para a criatividade. Acredita que, embora a IA possa ser uma ferramenta útil, "a essência da escrita literária reside na experiência humana, na capacidade de sentir e expressar emoções de maneira única".
Ele contou que percebeu inconsistências em um texto gerado pelo ChatGPT com a instrução para escrever "200 palavras no estilo de Salman Rushdie" (um comando comum aos iniciantes nas ferramentas de IA). Quando viu o resultado, disse Rushdie, "percebi um monte de bobagens". E acrescentou: "Nenhum leitor que tivesse lido uma única página minha poderia pensar que eu era o autor".
Rushdie tem razão: é preciso conhecer o estilo do escritor para não ser enganado por textos falsos. No entanto, para reconhecer a autenticidade de um texto reproduzido por chatbots (softwares capazes de manter uma conversa com um usuário humano em linguagem natural) requer, no mínimo, que a pessoa tenha lido obras do escritor, tenha intimidade com sua escrita para detectar erros estereotipados por robôs. Isso mostra que há sim o perigo de produção de textos estranhos baseados em informações da IA e muitas pessoas não identificam inconsistências e nem dão a mínima para a veracidade, sem conferir as fontes citadas pelos chatbots. Identificar a originalidade dos textos de um escritor ou reconhecer o estilo de sua escrita requer leitura de suas obras.
Senha para encontrar tesouros
Nesta realidade de conteúdo sintético (em que tudo é produzido pela inteligência artificial), é preciso muito trabalho para produzir conteúdo com qualidade. Qualquer um pode fazer uma solicitação à IA, mas se não souber o que pedir e como pedir não terá respostas coerentes. E muitas vezes é preciso refinar as perguntas (leia-se comandos) repetidas vezes.
É como achar a palavra-chave, ou senha, para receber uma informação precisa. Isso me faz lembrar da história de Ali Babá e os 40 ladrões, em que para abrir a caverna onde estavam guardados os tesouros era preciso saber a senha correta. Em outras palavras, o segredo para ter uma informação consistente é saber fazer perguntas específicas. Não é tarefa para os que querem receber tudo pronto. É preciso não se conformar com o que recebeu e aprofundar os comandos para obter informações consistente. "Mesmo quando as ferramentas de IA generativa apontam os links de origem da informação, não há precisão suficiente ainda", pontua o jornalista Arthur Menezes, especialista no tema.
Honestidade e ética no uso da IA
Distinguir textos escritos por humanos daqueles gerados por IA ainda é um desafio. Já existem algumas ferramentas que detectam conteúdos de IA, mas elas ainda têm limitações e são frágeis. Para ter a certeza de que o texto é original, Menezes, que é professor do módulo "Como usar a Inteligência Artificial para a escrita de ficção", do curso de Formação de Escritores, da Editora Metamorfose, destaca que com poucos comandos é possível alimentar a IA e receber algo muito mais consistente.
Ele não vê problema no uso da IA, até porque "um escritor não faz nada no vácuo, ele precisa de informações e a IA pode ajudá-lo na organização das ideias e isso economiza tempo e ajuda a embasar as histórias". O mais importante nesse processo, diz, é checar a originalidade das informações e usá-las com honestidade e ética. E destaca os dois principais pontos para o uso da IA durante a produção da escrita criativa: o diálogo e o trabalho braçal.
E explica: "Na medida que eu dou e recebo palavras, novas possibilidades aparecem, e a simples simulação de um diálogo já tem por si uma potencialidade incrível no processo criativo". O segundo ponto é reescrever com a mudança do tempo verbal: "Do ponto de vista de narração, da cadência, tudo isso tem uma primeira fase de trabalho quase que meramente braçal, sempre lenta e chata. Com a IA fica muito mais rápido, permitindo testar muito mais as variações sem que haja um cansaço. Escolhido o caminho, o refino volta para a mão humana".
Para o neurocientista brasileiro Miguel Nicolelis, a inteligência artificial não irá superar a humana. "Ela surgiu para otimizar nossa chance de sobreviver em um mundo que muda continuamente", assinala Nicolelis, para quem "um escritor original usa a IA como um parceiro criativo, não como um substituto, mantendo sempre seu próprio olhar crítico e refinado sobre a obra".
Algumas reflexões sobre a ética no uso da IA na literatura (fornecida pelo ChatGPT):
1. Coleta e uso de dados: a IA na literatura depende de dados para treinamento e geração de conteúdo. A coleta e o uso desses dados levantam questões éticas importantes, como privacidade, consentimento informado e discriminação algorítmica (situações em que um algoritmo toma decisão excludente em relação a um gênero ou a uma raça)
2. Vieses e discriminação: algoritmos de IA podem reproduzir vieses presentes nos dados de treinamento, perpetuando estereótipos e preconceitos. É crucial garantir que a IA seja desenvolvida de maneira imparcial e não discriminatória.
3. Transparência e explicabilidade: A literatura gerada por IA deve ser transparente quanto à sua origem. Os leitores devem saber se estão lendo um texto criado por um autor humano ou por um algoritmo.
4. Propriedade Intelectual: Quem é o autor de um texto gerado por IA? Questões de direitos autorais e propriedade intelectual precisam ser abordadas.
5. Responsabilidade e Accountability: Quando algo dá errado, quem é responsável? A IA não pode ser responsabilizada diretamente, mas os criadores e implementadores têm responsabilidade sobre seu uso. Por isso é preciso checar quem são os redatores por trás dos robôs.
* Ana Oliva é jornalista e pós-graduada em Gestão Estratégica da Comunicação Organizacional. Passou por diversos veículos de imprensa e empresas de grande porte. Atualmente trabalha com produção de conteúdos corporativos, produzindo textos para blogs e sites. Ama livros e cinema. Está no curso de Formação para Escritores com o objetivo de publicar contos, crônicas e autoficção.
