Pioneiros de TI avaliam o impacto futuro da IA

Um projeto fascinante que abrange quase um quarto de século está agora a explorar formas como a inteligência artificial pode perturbar o futuro.

De 2004 a 2023, centenas de estudantes e professores da Elon University — juntamente com funcionários da Pew Research — entrevistaram especialistas para coletar dezenas de milhares de previsões sobre “os desafios e oportunidades da evolução digital…”

Mas este ano o seu centro de investigação “Imagining the Digital Future” anunciou uma “agenda de investigação alargada” que reúne previsões sobre o impacto da IA ​​até ao ano 2040 – feitas por mais de 300 especialistas em tecnologia. “Acreditamos que a disseminação dos sistemas de IA tem implicações profundas para indivíduos e instituições”, disse o novo diretor do centro de pesquisa, Lee Rainie, em entrevista por e-mail ao The New Stack.

Rainie se junta ao centro depois de 24 anos dirigindo a filial de Internet e Tecnologia do Pew Research Center – portanto, o relatório deste ano também foi ampliado por uma pesquisa com 1.021 americanos (realizada de 20 a 22 de outubro). “Portanto, achamos que fizemos uma variedade de perguntas que são novas”, disse Rainie em uma entrevista recente com a presidente da Elon University, Connie Book, “mas também fizemos isso de uma nova maneira”.

O relatório resultante levou nove meses para ser preparado, de acordo com a entrevista, e o esforço representa uma tentativa de trazer um foco acadêmico sério para a súbita mudança tecnológica que o mundo enfrenta.

Mas também mostra uma tentativa não só de compreender a inteligência artificial, mas também de antecipar de forma justa os seus impactos perturbadores – tanto os bons como os maus.

Convulsões e benefícios

Tanto os especialistas como os entrevistados veem “enormes convulsões” pela frente, enquanto muitos especialistas também “abraçam a ideia de que benefícios importantes também resultarão da disseminação da IA”, de acordo com o comunicado de imprensa do centro.

As enormes convulsões assumiram muitas formas. “Os especialistas globais previram que, à medida que estas ferramentas avançam, teremos de repensar o que significa ser humano”, afirmou o centro num comunicado, acrescentando que os especialistas também previram que “devemos reinventar ou substituir as principais instituições, a fim de alcançar o melhor possível”. futuro.”

Tanto os especialistas como os entrevistados expressaram preocupações sobre as desigualdades de riqueza, a política e as eleições, e o nível de civilidade na sociedade e as relações pessoais com os outros, de acordo com uma declaração pública de Rainie. “Ao mesmo tempo, há opiniões mais esperançosas sobre a IA tornar a vida mais fácil, mais eficiente e mais segura em alguns aspectos importantes.” Por exemplo, mesmo as sondagens revelaram que mais americanos preveem uma positivo impacto da IA ​​até 2040 nos sistemas de saúde e na qualidade do tratamento médico (36%) — e nas suas tarefas e atividades de trabalho quotidianas (31%).

Mas a pesquisa de opinião pública também revelou que muitos americanos temem que a IA tenha um impacto negativo impacto até 2040 de diversas maneiras.

• A maior erosão da privacidade pessoal (66%)
• Suas oportunidades de emprego (55%)
• Como estes sistemas podem mudar as suas relações com outros (46%)
• Impacto potencial das aplicações de IA nos direitos humanos básicos (41%)

Em sua entrevista de fevereiro, Rainie disse que os americanos pareciam ser “totalmente a favor” de diagnósticos de saúde baseados em IA e de ferramentas de análise de dados públicos “que são muito mais rápidas e às vezes muito mais precisas do que os humanos… Portanto, há um quadro realmente misto, que faz parte da história realmente interessante que estamos contando. Não é uma situação “totalmente boa” ou “totalmente ruim” com a opinião pública. É muito sutil, às vezes assustador – mas há muitas maneiras pelas quais as pessoas também mostram alguns sinais de esperança.”

“Não existe um ponto de vista predominante sobre o impacto global da IA…” de acordo com o anúncio do centro. “Numa questão ampla sobre a ética da IA, 31% dizem que é possível conceber programas de IA que possam tomar decisões consistentemente no melhor interesse das pessoas em situações complexas, enquanto a mesma percentagem diz que isso não é possível. Cerca de 38% dizem que não têm certeza.”

Até o título do relatório parecia captar esta avaliação “indecisa”. (“Uma Nova Era de Iluminismo? Uma Nova Ameaça à Humanidade?: O Impacto da Inteligência Artificial até 2040…”)

Vint Cerf e Esther Dyson

As contribuições vieram de uma ampla variedade de especialistas – desde a investidora/fundadora Esther Dyson até o “pai da internet” Vint Cerf (agora vice-presidente do Google).

Numa entrevista mais longa, Cerf fez algumas recomendações específicas, abordando a necessidade de transparência e visibilidade dos dados utilizados para treinar IA, com questões adicionais como dados falsificados intencionalmente com IA e a maior necessidade de declarar quando A saída gerada por IA está sendo usada.

Esther Dyson até introduziu o conceito de “cadeia de fornecimento de informação” — que inclui saber quem escolheu produzir o conteúdo (para que os leitores tenham uma ideia melhor das suas motivações) — e argumentou que a IA poderia ter um papel na identificação dessas fontes.

Numa entrevista mais longa, Dyson observou “Esta é uma guerra que nunca será vencida” e abordou o tema do papel da humanidade. “Acabei de escrever um artigo chamado, essencialmente, ‘Não se preocupe em treinar suas IAs’. Treine seus bebês. Porque precisamos treinar as pessoas para serem céticas, mas não cínicas – para serem autoconscientes e também para estarem cientes dos motivos dos outros…”

Senhores da Guerra Digitais

Talvez o aviso mais terrível tenha vindo de William L. Schrader (um membro do Hall da Fama da Internet que foi cofundador de um dos primeiros provedores de serviços de Internet do mundo).

“Acorde e sinta o cheiro dos tiros”, escreveu Schrader, alertando que a IA “adiciona maior velocidade ao vetor dos problemas da humanidade”. Os fascistas dominarão quase todos os governos. A IA impulsionará atividades militares perigosas e coleta de informações”. A visão distópica de Schrader foi surpreendentemente sucinta. Ao mesmo tempo que previa o agravamento das pandemias e o alerta global, Schrader alertou que “a IA tornará os ricos mais ricos e os pobres mais pobres, e o diferencial será substancialmente maior até 2040”.

E no mesmo documento, Chuck Cosson, diretor de privacidade e segurança de dados da T-Mobile, também previu um aumento na “desinformação e outras formas de corrupção epistêmica”, com o resultado final de que “a forma como sabemos o que sabemos será desafiada”. .. ”

Mais adiante, Devin Fidler, fundador da empresa de consultoria Rethinkery, concordou que, embora estejamos preocupados com a possibilidade de a IA ficar fora de controle, há desafios muito mais urgentes – incluindo a possibilidade de “nutrir potencialmente o crescimento de novos tipos de senhores da guerra digitais.

“É como se preocupar com a colisão de um asteróide enquanto sua casa está no caminho de um incêndio florestal que se aproxima.”

Mas nem todas as previsões foram sombrias. O autor futurista Jonathan Kolber imaginou que a IA eliminaria a necessidade de grande parte do trabalho, com os humanos desfrutando de “abundância material ilimitada” da mineração de asteróides (e energia limpa). Kolber vê a VR totalmente imersiva oferecendo todas aquelas experiências que costumavam exigir posses físicas, enquanto a IA benevolente e autoconsciente protege a humanidade da guerra nuclear. (O livro de Kolber, A Celebration Society, expande sua visão com mais detalhes.)

O que fazer agora

Como podemos evitar as distopias? Os problemas podem ser, pelo menos em parte, organizacionais, argumenta Amy Sample Ward, CEO da organização sem fins lucrativos NTEN, que oferece programas de formação na utilização equitativa da tecnologia. Na sua contribuição para o relatório, Ward aconselhou “redireccionar” o movimento actual no sentido de “condensar o poder em cada vez menos sistemas, governos e indivíduos”.

Ou, como disse Dyson em sua entrevista: “O destino depende de nós”.

Na sua entrevista de Fevereiro, Rainie expressou a esperança de “que as pessoas sejam pessoas, nesta era de inteligência artificial, e se envolvam com outras pessoas, façam perguntas, ofereçam os seus conhecimentos e aprendam com as coisas que estamos a tentar reunir para elas. ”

E Rainie disse ao The New Stack que vê este relatório como um começo. As razões pelas quais fazemos pesquisas como esta e fazemos perguntas como esta são para ajudar a iniciar conversas públicas e políticas em torno das descobertas.” Portanto, embora não exista uma agenda política específica que oriente o seu trabalho, “esperamos que novos dados sobre novos tópicos levem algumas destas questões para a esfera pública…

A nossa opinião é que as melhores conversas — e políticas — são feitas quando são informadas por dados e contributos recolhidos por inquéritos de opinião pública e opiniões de especialistas diversos.

Em última análise, Rainie vê sua pesquisa sendo usada pela comunidade política, bem como pelas comunidades tecnológicas que estão construindo e as ferramentas, pela comunidade empresarial mais ampla e por “acadêmicos e outros analistas que estão tentando pensar sobre o uso apropriado da IA ​​em ambientes educacionais e como as IAs podem ser implantadas nas salas de aula.” E, claro, ele também espera que seja útil por parte de “trabalhadores e cidadãos interessados ​​que serão afetados pela implantação de sistemas de IA em seus empregos e em suas comunidades”.

E o futuro que nos espera pode ser mais estranho do que podemos imaginar. Na entrevista de fevereiro, perguntaram a Rainie o que o centro exploraria a seguir – e ele disse que a realidade aumentada alimentada por IA já estava “em nossa mente”. Mas, além disso, Rainie disse que “a fusão da inteligência artificial com as coisas do seu corpo vai acontecer com certeza, esses especialistas nem acham que essa é uma questão que vale a pena questionar, porque é tão óbvio que isso vai acontecer”.

“A outra coisa que vai acontecer é como negociamos todas as maneiras pelas quais isso nos muda como seres humanos”.

A postagem Pioneiros de TI avaliam o impacto futuro da IA ​​apareceu pela primeira vez em The New Stack.