O ano era 1964. \u201cComputadores\u201d, para a maioria das pessoas, ainda eram papo de fic\u00e7\u00e3o cient\u00edfica.<\/p>\n

Foi quando Joseph Weizenbaum, um professor do MIT, prestigiada universidade americana, teve uma ideia fora da caixa: um programa de computador capaz de conversar com seres humanos.<\/p>\n

Sua inven\u00e7\u00e3o era capaz de entender frases digitadas e responder com senten\u00e7as que fizessem sentido.<\/p>\n

$\"\"$
Ex Machina (2014)<\/p><\/div>\n
Aqueles que se incomodam com essas f\u00e1bulas geralmente procuram no futuro uma resposta aos nossos dilemas. Por\u00e9m, nosso h\u00e1bito de tratar m\u00e1quinas como pessoas \u00e9 mesmo tanto antigo, ser\u00e1 que n\u00e3o ter\u00edamos algo a ganhar olhando, tamb\u00e9m, ao passado?<\/p>\n
At\u00e9 que ponto a m\u00e3e da Siris, Alexas e Cortanas n\u00e3o seria a chave para entender suas filhas \u2013 e seus efeitos sobre n\u00f3s?<\/p>\n
ELIZA, visual novel <\/em>produzida pela Zachtronics, \u00e9 uma tentativa de responder a essa quest\u00e3o.<\/p>\n
<\/p>\n
Eliza\/ELIZA<\/em><\/strong><\/h3>\n
$\"\"$ <\/strong><\/p>\n
Eliza – <\/em>o jogo – \u00a0n\u00e3o \u00e9 a hist\u00f3ria da chatbot\u00a0<\/em>dos anos 1960.<\/p>\n
Sua trama se passa no presente, quando uma corpora\u00e7\u00e3o chamada Skandha se inspira no software de Weizenbaum para um servi\u00e7o de terapia virtual. A nova \u201cEliza\u201d \u00e9 um programa complexo, capaz de atender in\u00fameras pessoas em uma rede de consult\u00f3rios, analisar suas vidas pessoais e at\u00e9 receitar tratamentos.<\/p>\n
Para aumentar a ilus\u00e3o de que conversam com um ser humano, as sess\u00f5es com Eliza s\u00e3o intermediadas por \u201cavatares\u201d de carne e osso. Esses proxies<\/em>, como s\u00e3o conhecidos, s\u00e3o atores contratados para fingir escutar os clientes e ler as \u201crespostas\u201d do software em um teleprompt.<\/p>\n
Por mais que pare\u00e7a um embuste elaborado, a ideia se prova um sucesso. Proxies <\/em>s\u00e3o mais baratos que psic\u00f3logos, o que torna Eliza acess\u00edvel \u00e0queles que n\u00e3o tem dinheiro para um terapeuta de verdade. Sim, o software n\u00e3o \u00e9 qualificado para tratar problemas mentais. Mas quanto destes \u201cproblemas\u201d, no fundo, n\u00e3o podem ser resolvidos com um simples ombro amigo?<\/p>\n
N\u00f3s vivemos uma crise de sa\u00fade mental, diz uma porta-voz da Skandha. Estresse, ansiedade, inseguran\u00e7a se tornaram verdadeiras epidemias. Se Eliza pode oferecer uma ajuda, por menor que ela seja, j\u00e1 n\u00e3o estamos fazendo o bem?<\/p>\n
\u00c9 de n\u00f3s, jogadores, que o game espera uma resposta. Nossa protagonista \u00e9 Evelyn Ishino-Aubrey, uma das criadores do programa Eliza. Sumida da vida p\u00fablica ap\u00f3s um trauma pessoal, ela retorna ao mundo dos vivos para ver o que fizeram com sua cria\u00e7\u00e3o.<\/p>\n
N\u00e3o como engenheira, mas como uma proxy.<\/em><\/p>\n
$\"\"$ <\/p>\n
Boa parte do jogo consiste em conduzir as sess\u00f5es pelos olhos de Evelyn. Em hip\u00f3tese alguma \u2013 um e-mail nos avisa antes do expediente \u2013 os proxies <\/em>est\u00e3o autorizados a dizer aos pacientes o que pensam. Seu trabalho \u00e9 dar um rosto humano \u00e0s respostas de Eliza. Nada mais.<\/p>\n
Como \u00e9 de se esperar de uma visual novel, <\/em>o gameplay <\/em>de Eliza<\/em> \u00e9 m\u00ednimo. A decis\u00e3o de desafiar o script<\/em> do programa sequer aparece at\u00e9 bem mais tarde na hist\u00f3ria. Mesmo assim, as r\u00e9deas curtas que o jogo nos coloca nunca chegam a incomodar.<\/p>\n
Em uma trama sobre falta de ag\u00eancia e submiss\u00e3o \u00e0 tecnologia, o desconforto ser obrigado a obedecer os comandos de um game cai feito uma luva. N\u00e3o sem uma pitada de ironia.<\/p>\n
$\"\"$ <\/p>\n
Desconforto, de fato, \u00e9 um sentimento que Eliza <\/em>parece ter sido escrito para provocar.<\/p>\n
N\u00e3o demora para percebermos que todas as sess\u00f5es s\u00e3o varia\u00e7\u00f5es do mesmo script.<\/em> Eliza sempre come\u00e7a com um coment\u00e1rio banal sobre o clima, ent\u00e3o perguntas sobre o que trouxe o cliente a ela; outras perguntas, pedindo que descreva o que ele imagina ser a solu\u00e7\u00e3o; por fim, solu\u00e7\u00f5es de tratamento. Estes, invariavelmente, caem em dois grupos: joguinhos relaxantes e drogas.<\/p>\n
\u00c9 chocante como Eliza recomenda narc\u00f3ticos para seus pacientes, mesmo os que obviamente n\u00e3o tem qualquer problema que justifique tomar rem\u00e9dios. Seria engra\u00e7ado, n\u00e3o fosse um paralelo horripilante com o mundo real, em que a depend\u00eancia qu\u00edmica em drogas legais j\u00e1 ganhou status de epidemia<\/a>.<\/p>\n
$\"\"$ <\/p>\n
A \u00e9tica para com seus \u201cpacientes\u201d \u2013 n\u00e3o por acaso, chamados sempre de \u201cclientes\u201d \u2013 n\u00e3o \u00e9 o \u00fanico problema que chama a aten\u00e7\u00e3o de Evelyn.<\/p>\n
No mundo real, sess\u00f5es de terapia s\u00e3o protegidas por sigilo profissional. Como manter essa confidencialidade quando seu \u201cterapeuta\u201d \u00e9 apenas um ator glorificado? E quando tudo o que voc\u00ea diz termina nos servidores de uma empresa, armazenados por tempo indeterminado, \u00e0 merc\u00ea de qualquer um com acesso ao sistema?<\/p>\n
O que acontece se o banco de dados for hackeado? Ou se a Skandha, como tantas empresas de mem\u00f3ria recente, decidirem revender estas informa\u00e7\u00f5es de maneira inescrupulosa?<\/p>\n
$\"\"$ <\/p>\n
Esses s\u00e3o apenas alguns dos temas espinhosos que Eliza <\/em>nos traz. Seu rol de personagens \u00e9 uma verdadeira batalha real de posi\u00e7\u00f5es distintas sobre o papel da tecnologia nas nossas vidas.<\/p>\n
H\u00e1 Sara, que prega que um software como esse, nas m\u00e3os de uma corpora\u00e7\u00e3o gananciosa, \u00e9 uma receita para o desastre. H\u00e1 Erlend, jovem engenheiro que acredita que Eliza, sendo uma \u201cpessoa\u201d, merece ser protegida por algum tipo de direito. H\u00e1 Rainer, que brev\u00ea que o ser humano ser\u00e1 substitu\u00eddo pelas m\u00e1quinas – e pensa que isto \u00e9 uma coisa boa. H\u00e1 Soren, um homem derrotado que tenta inventar uma utopia digital porque n\u00e3o tem coragem para o suic\u00eddio.<\/p>\n
$\"\"$ <\/p>\n
Escolher a companhia dessas e outras personagens \u2013 segundo a mec\u00e2nica de \u201crotas\u201d bem conhecida por f\u00e3s de visual novels<\/em> \u2013 parece um desafio para que tomemos um partido.<\/p>\n
Como escreveu<\/a> Cass Marshall para o site Polygon, \u201cjogar Eliza parece um dating simulator, <\/em>mas eu n\u00e3o estou escolhendo meu parceiro \u2013 estou escolhendo minha filosofia\u201d.<\/p>\n
Filosofia essa que n\u00e3o diz respeito apenas ao presente, por mais urgente que as mensagens do jogo pare\u00e7am. Quanto mais conhecemos da hist\u00f3ria original da primeira ELIZA, mais percebemos como o game se inspira diretamente no passado.<\/p>\n
O poder do computador e a raz\u00e3o humana<\/strong><\/h3>\n $\"\"$
Joseph Weizenbaum, criador de Eliza, em foto dos anos 1960<\/p><\/div>\n
Evelyn n\u00e3o foi a primeira engenheira a a se incomodar com a ideia de uma IA terapeuta. Como sua m\u00e3e de batismo, a Eliza de Pigmale\u00e3o, <\/em>o software de Weizenbaum tamb\u00e9m rompeu com seu criador ap\u00f3s aprender a falar.<\/p>\n
Alguns intelectuais \u2013 incluindo psic\u00f3logos — \u00a0viram no seu chatbot <\/em>a aurora de uma nova era da sa\u00fade mental. Uma inven\u00e7\u00e3o que colocaria a terapia na linha de montagem, atendendo \u201ccentenas de pacientes por hora.\u201d<\/p>\n
Embora pare\u00e7a uma esquete digna de Tempos Modernos<\/a>, <\/em>a ideia ganhou a simpatia de \u00a0muita gente s\u00e9ria. Entre elas o astr\u00f4nomo Carl Sagan, apresentador original da s\u00e9rie Cosmos. <\/em>Nas palavras<\/a> do cientista,<\/p>\n
Eu consigo imaginar o desenvolvimento de uma rede de terminais de computador psicoterapeuticos, algo como uma vasta matriz de cabines telef\u00f4nicas, em que, por alguns d\u00f3lares a sess\u00e3o, n\u00f3s poder\u00edamos falar com um psicoterapeuta atento, testado e predominantemente n\u00e3o-diretivo.<\/em><\/p><\/blockquote>\n
<\/p>\n
$\"\"$
O astr\u00f4nomo Carl Sagan<\/p><\/div>\n
Opini\u00f5es como essas deixaram o criador de ELIZA estarrecido. O inc\u00f4modo foi tamanho que o levou a escrever um livro, O Poder do Computador e a Raz\u00e3o Humana<\/em><\/a>, denunciando os limites da intelig\u00eancia artificial.<\/p>\n
Segundo Weizenbaum, transformar ELIZA em uma terapeuta havia sido, no fundo, uma brincadeira. O script da chatbot\u00a0<\/em>foi escrito para parodiar psicoterapeutas da escola rogeriana<\/a>, conhecidos por um estilo de an\u00e1lise que privilegia devolver a seus pacientes informa\u00e7\u00f5es que trazem nas sess\u00f5es.<\/p>\n
O problema, para Weizenbaum, n\u00e3o era apenas que sua imita\u00e7\u00e3o n\u00e3o chegaria aos p\u00e9s de um humano de verdade. Dizer que um terapeuta pode ser substitu\u00eddo por uma m\u00e1quina significa dizer que os problemas da vida humana podem ser reduzidos a termos l\u00f3gicos e quantific\u00e1veis. E isto, para ele, \u00e9 inaceit\u00e1vel.<\/p>\n
Em \u00faltima medida, ele explica, isso implica em dizer que n\u00e3o existem de fato dilemas \u201chumanos\u201d , apenas desafios de computa\u00e7\u00e3o; que a solu\u00e7\u00e3o de todo e qualquer problema \u2013 do cora\u00e7\u00e3o partido ao racismo sist\u00eamico \u2013 \u00e9 inventar computadores cada vez mais potentes.<\/p>\n
A ideia de que precisamos melhorar como indiv\u00edduos, <\/strong>n\u00e3o nos esconder atr\u00e1s de gadgets, <\/em>n\u00e3o entra na equa\u00e7\u00e3o.<\/p>\n
$\"\"$ <\/p>\n
Para Weizenbaum, a \u00e9tica question\u00e1vel de um computador-terapeuta \u00e9 apenas a ponta do iceberg. O maior problema desta confian\u00e7a cega na tecnologia \u00e9 o fato de que estimula desprezo a outras formas de conhecimento. Como, por exemplo, as humanidades.<\/p>\n
O teatro de Shakespeare, ou dos dramaturgos gregos, ele exemplifica, \u201ceram uma escola\u201d. \u201cOs curr\u00edculos que eles ensinavam eram ve\u00edculos para entender as sociedades que eles representavam\u201d.\u00a0 Nos dias de hoje, pelo contr\u00e1rio, a arte passou a ser vista, na melhor das hip\u00f3teses, como perda de tempo; na pior, como coisa de folgados e encrenqueiros.<\/p>\n
$\"\"$ <\/p>\n
Na visual novel,<\/em> esse ponto de vista \u00e9 esposado por Rainer, o inexcrupuloso CEO da Skandha. O executivo n\u00e3o v\u00ea valor algum na psicologia, colocando seus profissionais no mesmo balaio de m\u00e9diums e astr\u00f3logos.<\/p>\n
\u201cCartas de tarot ajudam pessoas no mundo todo\u201d ele diz \u201cIsso n\u00e3o significa que s\u00e3o uma ci\u00eancia\u201d.<\/p>\n
Para ele, o \u00fanico conhecimento que importa \u00e9 aquele que pode ser expressado com n\u00fameros. Por esta raz\u00e3o, as m\u00e1quinas s\u00e3o inerentemente superiores aos humanos. Mesmo em tarefas tradicionalmente \u201chumanas\u201d, como a arte ou a poesia.<\/p>\n
\u201cAlgoritmos podem avaliar poemas e eventualmente algor\u00edtmos escrever\u00e3o poemas\u201d Ele anuncia. \u201cUm dia, algoritmos escrever\u00e3o poemas melhores que humanos jamais escreveram.\u201d<\/p>\n
\u201c[Mas] qual seria o ponto disso?\u201d, Evelyn pergunta. Sim, m\u00e1quinas s\u00e3o capazes de bolar rimas e respeitar m\u00e9trica. E \u00e9 bem poss\u00edvel que esses versos, em termos t\u00e9cnicos, sejam mais bonitos que os escritos por humanos. Mas qual seria o ponto<\/strong>\u00a0 de tal beleza?<\/p>\n
O Di\u00e1rio de Anne Frank <\/a><\/em>teria sentido art\u00edstico se sua autora n\u00e3o tivesse morrido no Holocausto?<\/p>\n
A Guernica <\/em><\/a>teria o mesmo valor se seu pintor n\u00e3o fosse Picasso? N\u00e3o o mestre cubista, mas o espanhol em luto pela guerra que destru\u00eda seu pa\u00eds<\/a>?<\/p>\n
O T\u00famulo dos Vagalumes <\/em>teria o mesmo peso n\u00e3o tivesse sido baseado em uma conto autobiogr\u00e1fico<\/a>, escrita por um homem que viu a irm\u00e3 de fato morrer de fome?<\/p>\n
O famoso cover de Hurt <\/em>de Nine Inch Nails teria se tornado t\u00e3o ic\u00f4nico n\u00e3o fosse seu int\u00e9rprete Johnny Cash? Um cantor no final da vida, torturado pelo peso de uma vida inteira de perdas?<\/p>\n
$\"\"$ <\/p>\n
N\u00f3s n\u00e3o apreciamos arte porque ela \u00e9 \u201cbonita\u201d ou \u201cbem feita\u201d ou por porque nos distra\u00ed. N\u00f3s a apreciamos porque ela nos for\u00e7a a encarar nossa pr\u00f3pria humanidade, por mais traum\u00e1tica, dolorosa ou incompreens\u00edvel ela nos pare\u00e7a.<\/p>\n
E apenas um humano \u00e9 qualificado para expor outro ser humano de maneira t\u00e3o \u00edntima.<\/p>\n
\u201cN\u00f3s quase chegamos no ponto em que todo dilema humano genu\u00edno \u00e9 visto como um mero paradoxo\u201d Weizenbaum escreve \u201cuma aparente contradi\u00e7\u00e3o que pode ser desembara\u00e7ada por aplica\u00e7\u00f5es judiciosas de l\u00f3gica pura\u201d.<\/p>\n
\u201cN\u00f3s sabemos contar\u201d ele conclui tristemente \u201cmas estamos rapidamente esquecendo como dizer o que<\/strong> \u00e9 importante contar e por qu\u00ea<\/strong>.\u201d<\/p>\n
Essas palavras foram escritas em 1971, mas o descaso que denunciam n\u00e3o poderia ser mais atual.<\/p>\n
De onde governos que, ao constarem que as profiss\u00f5es STEM<\/a> s\u00e3o as melhores remuneradas, instigam pessoas a se tornarem engenheiras, em vez de garantir que as carreiras menos bem pagas \u2013 enfermeiros, professores, fil\u00f3sofos \u2013 recebam o valor que merecem.<\/p>\n
De onde cidad\u00e3os que reclamam quando seu dinheiro vai para exposi\u00e7\u00f5es de arte, orquestras sinf\u00f4nicas ou reformas para impedir que museus nacionais peguem fogo<\/a>.<\/p>\n
De onde coaches <\/em>e gurus que pregam que pessoas devem parar de aprender idiomas<\/a> e estudar linguagens de computa\u00e7\u00e3o. Afinal, h\u00e1 mais demanda por Python e C# que por italiano ou japon\u00eas.<\/p>\n
A ideia de que aprender idiomas \u00e9 um ganho em si \u2013 por exemplo, ajudando o indiv\u00edduo a conhecer outras culturas e respeitar a diversidade humana \u2013 \u00a0n\u00e3o \u00e9 sequer cogitada.<\/p>\n
“Apenas dados”<\/h3>\n
$\"\"$ <\/p>\n
N\u00e3o se trata de uma escolha entre \u2018tecnologia\u2019 e \u2018humanidade\u2019, raz\u00e3o e sentimento. Como Weizenbaum insiste, esses dois opostos deveriam caminhar juntos:<\/p>\n
\u201c[M]esmo se os computadores pudessem imitar o homem em todas as circunst\u00e2ncias \u2013 o que eles de fato n\u00e3o podem \u2013 mesmo assim seria apropriado, n\u00e3o, urgente examinar o computador \u00e0 luz da necessidade perene do homem de encontrar seu lugar no mundo.<\/em><\/p><\/blockquote>\n
Tor\u00e7amos, para o nosso bem, que esse lugar beba do que melhor temos a oferecer. E n\u00e3o seja, como o ano que enfrentamos, um reflexo do buraco que cavamos para n\u00f3s mesmos.<\/p>\n","protected":false},"excerpt":{"rendered":"
O ano era 1964. \u201cComputadores\u201d, para a maioria das pessoas, ainda eram papo de fic\u00e7\u00e3o cient\u00edfica. Foi quando Joseph Weizenbaum, um professor do MIT, prestigiada universidade americana, teve uma ideia fora da caixa: um programa de computador capaz de conversar com seres humanos. Sua inven\u00e7\u00e3o era capaz de entender frases digitadas e responder com senten\u00e7as […]<\/p>\n","protected":false},"author":2,"featured_media":22301,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"spay_email":"","jetpack_publicize_message":"","jetpack_is_tweetstorm":false},"categories":[580,21],"tags":[664,427,665,666],"jetpack_featured_media_url":"https:\/\/i1.wp.com\/www.finisgeekis.com\/wp-content\/uploads\/2020\/06\/20200616-eliza-cover-1.jpg?fit=1024%2C896","jetpack_publicize_connections":[],"jetpack_shortlink":"https:\/\/wp.me\/p9rUzW-5Np","_links":{"self":[{"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/posts\/22283"}],"collection":[{"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/comments?post=22283"}],"version-history":[{"count":8,"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/posts\/22283\/revisions"}],"predecessor-version":[{"id":22748,"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/posts\/22283\/revisions\/22748"}],"wp:featuredmedia":[{"embeddable":true,"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/media\/22301"}],"wp:attachment":[{"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/media?parent=22283"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/categories?post=22283"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.finisgeekis.com\/wp-json\/wp\/v2\/tags?post=22283"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}