O novo rosto da ai safety alegou que ele
trabalhava sozinho. mas a empresa que representa eliezer yudkowsky está
ajudando-o a marcar entrevistas.
Por Hunter Ryerson
Em 9 de setembro, um pesquisador de IA chamado
Jacob Coxon anunciou em uma entrevista exclusiva ao WSJ que estava deixando seu
emprego na Anthropic porque os grandes laboratórios estavam colocando o mundo
em risco de forma imprudente. Ele então expandiu seus medos em um Fio X que obteve 173,8 milhões de visualizações (e
continua crescendo). Causa pânico generalizado.
Mas sua ascensão meteórica pode ter sido
cuidadosamente coordenada.
ELES.
Ideias + Influência, uma empresa de comunicações associada a proeminentes
defensores da segurança da IA, tem trabalhado para Jacob, de acordo com duas
pessoas familiarizadas com o assunto, bem como um e-mail visto por Fios
Piratas em que DEY. estava procurando contratar Jacob para uma
entrevista.
De acordo com uma das fontes, que tinha
conhecimento direto, o DEY também reservou preventivamente Nate Soares, uma
figura proeminente da segurança da IA, para entrevistas que coincidiram
diretamente com a divulgação pública de Jacob.
Se o Jacob está a trabalhar com a DEY, isso é
interessante por duas razões: Primeiro, ele disse que não estava a trabalhar
com terceiros. Segundo, estamos no meio de uma conversa nacional sobre o futuro
da IA que está determinando ativamente como regulamos a tecnologia mais
poderosa do mundo, em grande parte graças ao pânico despertado por Jacob — e é
do interesse do público saber quem, exatamente, está por trás disso.
Jacob não está listado publicamente como um
dos clientes DEY.’s e não respondeu imediatamente a uma solicitação de
comentário. A empresa também não respondeu imediatamente.
Sim, a ascensão de Jacob foi
provavelmente orquestrada
“As pessoas que constroem a IA acreditam
sinceramente que isso poderá matar-nos a todos até ao final da década,
escreveu” Jacob no agora famoso tópico X. “Isto não é um golpe de marketing. Na
verdade, muitos executivos e investigadores seniores expressarão a sua frase na
imprensa para soar sensato —, mas ouço as mesmas pessoas expressarem medo em
privado. Nenhuma outra atividade humana representa este nível de perigo.”
O aviso de Jacob estava de repente em toda
parte: TikTok, bobinas do Instagram, a redação MSM favorita da sua avó, Bernie
Sanders’ tweets, e The Tonight Show estrelado por Jimmy Fallon.
Entrevistas no horário nobre, perfis chamativos, bem como conferências de
imprensa com Bernie e Steve Bannon cunharam Jacob como um novo denunciante de
celebridades desafiando a máquina.
A velocidade e o volume da atenção e da
cobertura pareciam suspeitos para muitos (incluindo Elon Musk). Eles notaram que o chefe de alinhamento da Anthropic imediatamente
se manifestou para confirmar o argumento de Jacob; que ele havia trabalhado na
Anthropic por apenas quatro meses; que ele havia conseguido uma entrevista
sofisticada para a mídia em sua primeira tentativa; que ele havia trabalhado
recentemente para um grupo de defesa política de esquerda; que sua conta X
estava praticamente inativa antes de seu tópico; que sua primeira postagem
recebeu republicações de importantes organizações e personalidades de IA em 15
minutos.
Fox News’ Bret Baier, por exemplo, queria
saber se a turnê de mídia de Jacob foi orquestrada com antecedência: “Você
trabalhou com terceiros no que diz respeito a essa denúncia e divulgação?” ele
perguntou a Jacob no ar em 9 de setembro.
“De jeito nenhum,” disse Jacob.
A questão da coordenação da mídia de Jacob é
frequentemente enquadrada como algum tipo de “pegadinha” que prova que ele não
acredita profundamente no que está dizendo, mas sim que está perseguindo a
fama.
É mais provável que muitas pessoas, que
alertam sobre os riscos da IA há anos e definitivamente acreditam no que estão
dizendo, estejam coordenando recursos substanciais para persuadir o público de
que estão certas.
Então, quem está pagando por isso?
Conheça DEY.
A empresa que marca entrevistas para a mídia
para Jacob, que diz trabalhar com “artistas, cientistas, dissidentes e
sonhadores” (como Noam Chomsky), também representa os mais proeminentes
defensores da IA.
De acordo com seu site, DEY. representa o
Doomer-in-Chief coloquial da AI, Eliezer Yudkowsky, que foi coautor Se
alguém construir, todos morrem, um livro alertando que o avanço da
inteligência artificial levaria à extinção da humanidade.
Outra cliente é Timnit Gebru, ex-líder de IA
Ética do Google que se separou da empresa após se manifestar contra LLMs. Ela
também alegou que a pesquisa da AGI estava “enraizada na eugenia” e acusou o
Google de “silenciar vozes marginalizadas” porque eles pediram que ela
removesse seus funcionários’ nomes de um artigo que ela havia publicado
denunciando LLMs.
DEY. também assessora diretamente o Instituto
de Inteligência Artificial Centrada no Ser Humano de Stanford, a Stanford
Medicine e a MIRI, uma das principais organizações sem fins lucrativos de
segurança de IA.
Em um depoimento no site, o fundador da MIRI,
Nate Soares (que a empresa estava promovendo em torno da estreia de Jacob),
elogiou a DEY. por “[gastar] tempo para entender o que estávamos realmente
tentando realizar, em vez de tratar o engajamento como um projeto de
comunicação superficial.”
Além da esfera da IA, a DEY assessora
organizações filantrópicas importantes, como a Fundação Bill & Melinda
Gates, a Fundação Ford, voltada para a justiça social, e a Open Society
Foundations, do bilionário de esquerda George Soros.
DEY. descreve sua estratégia como “o trabalho
contínuo de moldar a compreensão pública ao longo do tempo.”
Quando se trata de IA, essa estratégia parece
estar dando certo.
Comentários
Enviar um comentário