Ponderando sobre nossos senhores robôs e o
cenário perdido
Agora que o ChatGPT subiu ao palco,
há um novo hype em torno da Inteligência Artificial (IA). Sempre que a IA
captura a imaginação do público, estamos sujeitos a especulações desenfreadas
sobre como ela inevitavelmente dominará o futuro e transformará nossas vidas.
Somos levados a acreditar que a IA dará início
a uma era de cavalheiros hiperinteligentes tão além de nossas próprias
habilidades cognitivas grosseiras e análogas que a questão existencial do
futuro girará em torno de:
Quanto poder ou direitos damos a esses seres?
Eles nos tratarão gentilmente ou
maliciosamente?
Mas essas questões implicam uma suposição
básica sobre a IA que não é amplamente considerada verdadeira hoje, mas
inevitavelmente será no futuro – depois de mais algumas iterações da Lei de
Moore…
Essa é a ideia de que a IA alcançará a
inteligência artificial geral e isso pressupõe um certo nível de sensibilidade
(caso contrário, não há nada para dar direitos).
O artigo da Newsweek à direita nas imagens
acima é do futurista transumanista Zoltan Istvan. Ele descreve como os
éticos da IA estão divididos sobre se os futuros robôs hiperinteligentes devem receber
direitos.
Por um lado, se não concedemos direitos
humanos a robôs com AGI (inteligência geral em pé de igualdade com os humanos),
estamos cometendo um “erro de direitos civis” que lamentaremos no futuro.
Isso é contradito por aqueles que afirmam que
os robôs são máquinas e nunca precisarão de direitos porque não têm sentimentos
(é aqui que chego, e explicarei o porquê abaixo).
Outros acreditam em um meio-termo, onde alguns
robôs que possuem inteligência geral recebem certos direitos com base em
suas " habilidades, sistema moral e contribuição para a sociedade
Mas, no geral, Istvar parece pensar que a IA
alcançará a superinteligência e ultrapassará em muito os desajeitados sacos de
carne da humanidade em termos de poder cerebral.
Isso nos deixa com três caminhos possíveis
para o futuro:
#1 Apelo à Benevolência da Superinteligência
de IA
"Dada a possibilidade de recompensa ou
punição, se a inteligência da máquina eventualmente se tornar algo como um deus
da IA que pode manipular e prolongar a vida humana, para o bem ou para o mal,
então as pessoas deveriam começar imediatamente a pensar em como nosso futuro
senhor gostaria de ser criado. e tratado. A maneira como os humanos lidam com o
desenvolvimento da IA hoje – e se concedemos direitos e respeito aos robôs em um futuro próximo – pode,
portanto, fazer a diferença em como nossa espécie será tratada um dia.”
Esta é uma modificação da aposta de Pascal -
uma construção prototípica da teoria dos jogos que conclui que as consequências
de acreditar em Deus e no erro (nada) são melhores do que o erro de não
acreditar (condenação eterna).
#2 Lópio. Talvez os AIs apenas nos deixem
em paz
No entanto, de acordo com Istvan, "dado o
nosso impacto e a devastação ambiental que estamos causando no planeta
Terra", poderíamos "facilmente irritar a IA" que resolverá o
problema por conta própria para corrigir as coisas e a nós. O último
cenário é uma variante do Basilisco de Roko, que também é mencionado no post de
Istvan.
O Basilisco de Roko foi um experimento
mental do programador Eliezer S. Yudkowsky em LessWrong que abalou o site em
sua essência e aterrorizou os nerds super-cérebros.
É "o experimento mental mais
aterrorizante de todos os tempos", disse a revista Slate.
Ele molda o pensamento de Yudkowsky até
hoje. Ele recentemente promulgou o "problema de alinhamento",
que postula que a humanidade inevitavelmente criará IAs superinteligentes, e
eles inevitavelmente nos aniquilarão. Podemos muito bem “morrer com
dignidade”, já que estamos todos condenados de qualquer maneira:
“tl;dr: É óbvio que a humanidade não vai
resolver o problema do alinhamento, nem vai tentar, nem vai desistir sem
lutar. Como a sobrevivência é inatingível, devemos mudar o foco de nossos
esforços para ajudar a humanidade a morrer com um pouco mais de dignidade”.
Esses tipos de pensamentos construídos em
torno da inevitabilidade de IAs onipotentes são simplesmente repetições do
argumento ontológico de Santo Anselmo. Formulado pela primeira vez
por Santo Anselmo de Cantuária no século XI. Embora seja um
feito impressionante de lógica semelhante aos paradoxos de Zenão, é
simplesmente circular que Deus deve existir:
“Deus é o maior ser imaginável. Se tal
ser existe apenas na imaginação e não na realidade, então pode-se imaginar um
ser maior - um que existe tanto na imaginação quanto na realidade."
Simplificando:
Deus é o ser mais perfeito que podemos
imaginar, e é mais perfeito existir na realidade do que apenas na nossa
imaginação. Portanto, Deus deve existir na realidade.
via sessão ChatGBT 72b43f3e-043f-4db2-aca9-63a76b7945c9
Dê a Deus um traço maligno e você terá o
basilisco de Roko. Ou Skynet.
#3 Carregar nossa consciência para a nuvem e
fundir com os robôs
Aqui Istvan sugere que nos fundamos com a IA e
tentemos direcioná-la
Uma possibilidade final é tentarmos nos fundir
com a IA inicial, carregando nossas mentes nela, como sugeriu Elon Musk. A
esperança é que os humanos possam se tornar um com a IA e torná-la amigável com
os humanos antes que se torne muito poderosa. No entanto, não há garantia
de que teremos sucesso e, a longo prazo, isso só pode fazer a IA se sentir
estuprada.
Essa ideia é creditada a Elon Musk, embora eu
tenha certeza de que Istvan está ciente de que essa é a essência da
singularidade propagada por pessoas como Ray Kurweil (cientista-chefe do Google)
em seu livro The Singularity is Near. Os cosmólogos russos tentaram
formular a mesma coisa há mais de um século, mas naquela época não havia redes
de computadores e aprendizado de máquina para apoiá-lo.
Anos atrás, eu deveria escrever um livro sobre
os perigos desse tecno-utopismo, e nele chamo a ideia da fusão da humanidade
com a IA e a eliminação de todos os nossos males de "O Falso Limiar":
Tudo isso é possível graças ao círculo
virtuoso criado pelas redes de computadores digitais, que, impulsionadas pela
Lei de Moore, incessantemente reduzem pela metade sua pegada física enquanto
dobram seu poder de processamento - eventualmente, igualaríamos e depois
superaríamos a conectividade e o poder de processamento do cérebro humano em
si.
Se isso acontecer, todas as apostas serão
anuladas. Acredita-se que em algum lugar ao longo desse continuum, quando
os limites corretos para concorrência e poder computacional são cruzados, a
própria mente surge do processo - emergindo com poder e dobrando-se sobre si
mesma, criando subprocessos que são ainda mais inteligentes do que ele mesmo, e
assim por diante, ad infinitum. Nossa “última invenção” examinará o mundo
com todas as suas deficiências e ineficiências e, sendo infinitamente mais
inteligente do que todos os cérebros humanos combinados, resolverá tudo com
habilidade.
De acordo com Kurzweil, isso pode ser já em
2029, e essas visões tecno-utópicas quase sempre culminam em algum tipo de
neomarxismo baseado em comunismo de luxo totalmente automatizado.
A singularidade como arrebatamento
Esperar que uma IA superinteligente assuma
nossos negócios (tecno-utopismo) tem as características de uma
religião. Eu originalmente escrevi sobre isso em Transhumanism: The New
Religion of The Coming Technocracy em resposta a um WSJ “Food for Thought”
(Looking Forward to the End of Humanity) escrito que “Covid-19 quebrou as
promessas do transumanismo e a ideia de Usando a tecnologia para
superar a doença, o envelhecimento e a morte.
Não se engane: a singularidade tem todas as
características de um evento escatológico. Difere da maioria dos impulsos
cristãos ou monoteístas porque somos nós que damos à luz nossos próprios
deuses. Essa dinâmica de usurpação (de Deus, ou neste caso da própria
realidade) dá a ela um impulso distintamente luciferiano.
O cenário que falta é que a IA nunca
acontecerá
Um cenário que este artigo não considera (nem
qualquer outra pessoa discutindo o futuro da IA) é que a IA não existe e a
crença de que a IA senciente e autoconsciente dominará o mundo nunca acontecerá.
(Além disso, se a maioria da população se
tornará servos algorítmicos vivendo sob crédito social e CBDCs é outra
questão).
Nossa preocupação sobre como lidar com essas
construções de software superinteligentes se baseia em uma única suposição
improvável:
Essa é a ideia de que o espírito é um epifenómeno
da matéria.
O princípio central do Cientismo (lembre-se,
eu não disse "ciência") é que a consciência, a senciência e o
espírito são todos subprodutos da matéria. Algo que acontece quando certos
neuroquímicos se espalham em um cérebro, disparando e conectando sinapses
suficientes para criar um senso de identidade.
Este é o equivalente moderno do universo
ptolomaico (ou geocêntrico): a crença de que a Terra é o centro do cosmos.
Era a "ciência aceite" da época e,
se você a negasse, era queimado na fogueira.
A realidade é que a matéria é um subproduto da
consciência, a camada básica da realidade é mental, não física. Isso há
muito se afirma (o axioma hermético de que tudo é mental, copiado de textos
muito mais antigos) e só foi redescoberto no século passado com o advento da
mecânica quântica.
“Considero fundamental a
consciência. Vejo a matéria como derivada da consciência. Não podemos
ir além da consciência. Tudo o que falamos, tudo o que consideramos existente,
pressupõe consciência”.
Nesse sentido, nosso cérebro não irradia
consciência como uma chaleira soltando vapor — é um receptor que acessa e
filtra o substrato subjacente da realidade. E embora os fundamentos da
mecânica quântica deixem clara a primazia da consciência, ela só pode ser
verdadeiramente experimentada por meio da gnose. Para quem já teve essa
experiência, não há dúvidas. Para todos os outros, há apenas woo-woo da
nova era.
A menos que a IA seja abordada com esse
entendimento (e não espero que alguém leve isso a sério), podemos assumir com
segurança que uma IA generalizada que é senciente e autoconsciente simplesmente
não se materializará.
Está na hora de verificar a realidade
A inteligência artificial é, na verdade, a
versão atual do “carro voador”. Algo que foi usado como símbolo do futuro
que nunca aconteceu. Pelo menos não na forma clichê. Isso porque a IA
não é realmente inteligência artificial, mas uma imitação algorítmica.
Embora ela possa ser muito, muito boa em
imitar algoritmicamente contadores, advogados, médicos, programadores,
redatores e até mesmo grandes mestres de xadrez ou campeões, ela ainda não é
senciente, ainda não tem compreensão do que está realmente fazendo, ela não tem
consciência. . Ele pode muito bem ser uma torradeira.
Portanto, não é apenas delirante, mas também
insano quando nos atormentamos com construções essencialmente teológicas sobre
resultados aos quais atribuímos uma falsa inevitabilidade.
O erro se torna ainda maior quando moldamos
políticas públicas com base nessas premissas.
Uma dinâmica muito semelhante está em jogo na
representação da “crise climática”, na qual somos inundados com construções hipotéticas
de modelos de computador aos quais é atribuída uma inevitabilidade que exigirá
que toda a humanidade se reorganize em torno deles. As
"reconfigurações" ou "recalibrações" propostas da sociedade
(para usar um eufemismo ao estilo do FEM) invariavelmente seguem linhas
neomarxistas e tecnocráticas.
Primeiras coisas: vamos retomar nossos
próprios direitos imediatamente
A ironia de toda essa introspecção sobre como
tratamos as IAs e quais direitos elas deveriam ter é que aqui na era Covid, nossos
próprios direitos humanos básicos acabaram de ser anulados. Por decreto.
Não os recebemos novamente após o fim da
pandemia, pois a maioria dos mandatos de emergência está apenas parcialmente
"em espera". Nossos direitos humanos civis e universais agora
são provisórios a mando de vários oficiais de saúde não eleitos, burocratas,
apparatchiks e qualquer loucura que emana de Davos.
Se deixarmos, isso só vai piorar à medida que
a “emergência climática” se aproxima no horizonte e somos confrontados com a perspectiva
real de bloqueios climáticos e crédito social com base em CBDCs, passaportes de
saúde e racionamento de carbono.
Nós anulamos nossos próprios direitos no
presente e então discutimos sobre quais direitos dar aos algoritmos de software
inanimados do futuro.
Meu livro sobre o assunto está parado, mas
ainda estou escrevendo sobre transumanismo , IA e seu
impacto nos CBDCs, racionamento de carbono e crédito
social . Junte-se à lista de discussão do Bombthrower para novos
artigos (e talvez eu pegue o livro novamente e atualize aqui). Você também
pode me seguir no Nostr, Gettr ou Twitter. Minha carta premium The
Bitcoin Capitalist cobre Bitcoin e ações criptográficas.
Comentários
Enviar um comentário