Não acho que seja assim tão confuso quanto parece. A situação do prêmio francês na verdade não era sobre a IA enganar ninguém - a autora divulgou, e os organizadores simplesmente decidiram que não se encaixava nos critérios deles. Isso é uma decisão editorial bem normal, não um sinal de alguma crise onde não conseguimos diferenciar humano de máquina.
A pergunta real não é se a IA consegue escrever algo legível, porque claro, ela consegue encadear palavras perfeitamente. É se há uma visão criativa de verdade, uma verdade emocional, ou algo que exigiu pensamento real para ser feito. A maioria das pessoas que julgam obra literária provavelmente consegue sentir a diferença entre uma escrita que vem de experiência vivida ou reflexão de verdade versus algo gerado por reconhecimento de padrões. Prêmios literários tendem a se importar com essas coisas. Então eu esperaria que editoras e comitês de prêmios simplesmente começassem a ser mais claros sobre seus padrões - alguns podem banir trabalho assistido por IA, outros podem permitir mas exigir divulgação. Não é muito diferente de como alguns lugares se importam se algo foi publicado tradicionalmente ou autopublicado.
Honestamente, o mundo da publicação muda a cada década ou coisa assim. Os guardiões de verdade - editores, leitores, críticos - provavelmente vão descobrir o que valorizam e tomar decisões de acordo. Divulgação parece a rota mais justa se autores querem usar essas ferramentas. Mas não acho que livros bons escritos por humanos de repente virem inúteis porque IA existe.