SÃO FRANCISCO – Há dois anos que iniciámos uma transformação de importância comparável à primeira Revolução Industrial. Mas com as previsões dos especialistas para o impacto da inteligência artificial a irem do panglossiano ao apocalíptico, poderemos realmente dizer alguma coisa sobre o que prenuncia? Eu penso que podemos.
Primeiro, nem o nirvana nem a extinção humana estão para breve. Em vez disso, podemos esperar muitos anos de instabilidade. A tecnologia da IA continuará a registar progressos rápidos, com capacidades cada vez mais notáveis. Nem sequer esgotámos os modelos actuais, baseados em transformadores (que dependem grandemente da computação de força bruta), e estão em curso esforços enormes para desenvolver melhores modelos, tecnologias de semicondutores, arquitecturas de processadores, algoritmos e métodos de formação. Por fim, chegaremos a sistemas de inteligência geral artificial que igualem ou ultrapassem o intelecto humano.
Por agora, porém, a IA continua notavelmente limitada. Nem consegue cozinhar uma refeição ou passear o seu cão, muito menos combater uma guerra ou gerir uma organização. Nenhuma superinteligência malévola dominará o planeta nos próximos tempos. Mas a forma como a revolução da IA se desenrolar – e o rácio entre progresso e dor – dependerá de uma série de corridas entre a tecnologia e as instituições humanas. Até agora, a tecnologia está a ultrapassar, de longe, as instituições humanas.
Sou, em grande medida, um optimista quanto aos benefícios potenciais da IA, e vejo desenvolvimentos excitantes e encorajadores no ensino, na arte, na medicina, na robótica e noutros campos. Mas também vejo riscos, a maioria dos quais não está a ser abordada. Segue-se um périplo breve e necessariamente simplista.
É complicado
Tal como aconteceu durante a Primeira Revolução Industrial, os efeitos da IA sobre o emprego e o rendimento distribuir-se-ão de forma caprichosa, e aparecerão frequentemente quase sem aviso prévio. A trajectória global do produto nacional produto poderá parecer maravilhosamente positiva e suave, mas sob essa curva limpa haverá uma grande quantidade de dor e ansiedade para números consideráveis de pessoas, em todos os níveis da sociedade, juntamente com novas oportunidades para muitos, e fortunas enormes para alguns.
At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.
Subscribe to Digital or Digital Plus now to secure your discount.
Subscribe Now
Actualmente, a IA é mais adequada à automação de actividades altamente complexas, mas também altamente estruturadas: circular por ruas, classificar imagens, jogar xadrez, usar linguagens (tanto humanas como computorizadas). Mas o efeito actual da IA sobre uma actividade humana particular depende de três variáveis: a taxa e o grau de automação, os níveis de competências humanas associadas às actividades que podem (e não podem) ser automatizadas e, mais crucialmente, quanta procura adicional será criada pela disponibilização de automação barata através da IA.
O que isto significa na prática poderá surpreender bastante. Considerem-se alguns exemplos, a começar pela tradução de línguas. Falei recentemente com dois eminentes especialistas de IA, um depois do outro. O primeiro defendeu que a IA eliminará completamente os tradutores humanos, porque a tradução por IA será essencialmente perfeita dentro de cinco anos. Mas o segundo especialista defendeu que precisaremos de mais tradutores que nunca. Como a IA permite a tradução rápida e barata de qualquer coisa, haverá uma explosão dos conteúdos traduzidos, e será necessária supervisão humana para formar e melhorar os sistemas de IA, e também para rever e corrigir os conteúdos mais importantes.
Depois de investigar mais, concluí que esta segunda perspectiva é mais exacta. Existirá uma enorme explosão naquilo que é traduzido (com efeito, já existe); e para algumas coisas, continuaremos a querer a supervisão humana. A tradução não se destina apenas a previsões meteorológicas e a menus; também se destina ao FBI, à CIA, a empresas de produtos químicos, fabricantes de dispositivos médicos, médicos de emergência, líderes mundiais, cirurgiões, pilotos de aviões, comandos militares e linhas para prevenção do suicídio. Embora as funções dos tradutores humanos transitem para a formação, a monitorização e a correcção dos sistemas de IA, é provável que necessitaremos de tradutores durante muito tempo.
Surgem questões semelhantes noutros campos. Muitos acreditam que os dias dos engenheiros de software estão contados, porque a IA está a fazer bastante bem o que eles fazem, usando apenas instruções humanas não-técnicas. Mas outros defendem que esta tendência motivará um grande aumento na quantidade e na complexidade do software produzido, exigindo muitos especialistas humanos para conceptualizar, organizar, confirmar e monitorizar esta enorme quantidade de código. Aqui, ainda não existe consenso sobre os efeitos líquidos da IA sobre o trabalho.
Para os advogados, o futuro parece ser mais difícil. Ainda estamos no início, mas já tive várias conversas que correm mais ou menos desta forma: precisámos de um contrato de emprego / investimento / parceria / aquisição, mas o nosso advogado estava a demorar imenso, por isso pedimos ao Perplexity (um serviço de IA) para redigi-lo, e funciona. Pedimos a um advogado para revê-lo, e estava tudo bem, por isso não precisamos mais de advogados, excepto para rever conteúdos.
E, ao contrário da tradução de idiomas, não parece provável que a IA origine uma explosão por mil no trabalho jurídico. Por isso, prevejo que a advocacia ficará na verdade sob pressão, e os humanos só tratarão dos casos complexos que necessitem de especialistas altamente formados. Em contrapartida, em algumas profissões – a contabilidade e a auditoria são frequentemente mencionadas – a IA servirá para aliviar faltas graves de profissionais treinados.
Consideremos agora a condução. A actual (e completamente justificada) ênfase nos veículos autónomos obscureceu outra coisa: a AI já despromoveu a condução enquanto profissão. Há vinte anos, um condutor de táxi urbano tinha de ser inteligente, de estar alerta e de ter uma memória soberba. Mas actualmente, o lendário domínio do “the Knowledge” (NdT – “The Knowledge”, ou “O Conhecimento”, consistia numa difícil prova sobre a geografia e ruas da cidade de Londres a que os taxistas eram submetidos) por parte dos taxistas londrinos já não é necessário. A disponibilização, em todos os telefones, de indicações detalhadas e baseadas na IA transformou a condução profissional num biscate sem qualquer complexidade para as plataformas de transporte de passageiros. E quando a condução autónoma se tornar suficientemente boa (e está quase nesse ponto), estes empregos desaparecerão completamente.
A seguir, consideremos a robótica (da qual os veículos autónomos são, na verdade, apenas um exemplo). Com a IA generativa, estamos a testemunhar uma revolução que acabará por afectar toda a actividade física, desde o trabalho manual ao trabalho doméstico e à guerra. O investimento de capital de risco na robótica aumentou acentuadamente este ano para os milhares de milhões de dólares, sugerindo que a indústria do capital de risco está a apostar fortemente em que os robôs começarão a substituir os humanos numa escala gigantesca durante os próximos cinco anos. As primeiras actividades a serem completamente automatizadas serão em ambientes altamente estruturados e controlados: armazéns, centros de entregas, supermercados, linhas de produção. A automação demorará mais para actividades não-estruturadas e próximas dos humanos (como na sua casa, ou na estrada), mas também aí estão a ser feitos progressos.
Os novos sonâmbulos
Um outro domínio onde a IA tem tido uma evolução assustadoramente rápida é o armamento. Aqui, a analogia relevante não é a Revolução Industrial, mas sim a I Guerra Mundial. Em 1914, muitas pessoas de ambos os lados pensavam que a guerra seria relativamente indolor; em vez disso, as novas tecnologias – metralhadoras, explosivos, artilharia e armas químicas – causaram uma horrível carnificina em massa.
E temo que, presentemente, poucos líderes políticos ou militares compreendam precisamente como a guerra baseada na IA poderá ser mortífera. A IA removerá os humanos de muitas posições de combate, mas isso também significará que quaisquer humanos que estejam no combate serão mortos com eficiência extrema. Isto resultará em guerras assépticas, sem quaisquer combatentes humanos, ou num massacre sem precedentes? As evidências iniciais da Ucrânia não são encorajadoras.
Os sistemas baratos e baseados na IA também estão a desestabilizar as origens do poder militar nacional, ao tornarem sistemas dispendiosos e controlados por humanos como veículos blindados, navios e aviões, extremamente vulneráveis a armas baratas e controladas por IA. O que é pior é que isto acontece no início de uma nova guerra fria, e durante um período de instabilidade política nacional acrescida por todo o Ocidente. E o que significará a IA para o controlo de armas? Poderá a Segunda Emenda da Constituição dos EUA vir a ser interpretada para proteger armas controladas por IA, que possam ser posicionadas numa janela de um quarto de hotel e programadas para atingir todas as pessoas na rua, ou uma pessoa específica, uma semana mais tarde?
Uma preocupação final é a desinformação. Apesar de a IA já ser capaz de produzir falsificações com algum grau de realismo, em texto, imagens, vídeos curtos e áudio, muitos observadores têm encontrado consolo no papel aparentemente menor que as falsificações produzidas pela IA desempenharam, até agora, nas eleições e nos meios noticiosos. Mas seria perigosamente prematuro declarar vitória. Presentemente, as organizações noticiosas respeitáveis, as principais plataformas da internet e os serviços nacionais de informações têm bastante facilidade em determinar o que é verdadeiro e o que é falso. Mas a tecnologia da IA está ainda na sua infância. O que acontecerá dentro de uma década (ou talvez antes) quando ninguém será capaz de afirmar com segurança o que é verdadeiro?
Estas questões serão relevantes em muitos domínios. Uma implicação óbvia é que os países precisam de reinventar e de fortalecer as suas redes de segurança social e os seus sistemas de ensino, para navegarem por um mundo onde competências e profissões inteiras aparecerão e desaparecerão rápida e frequentemente. A raiva que vemos nas pessoas deixadas para trás pelos últimos 30 anos de globalização parecerá provavelmente ligeira quando for comparada com aquilo que a IA poderá trazer, a menos que nos preparemos para tal. De forma semelhante, precisamos de uma regulamentação extremamente rigorosa para os deepfakes, que inclua requisitos de rotulagem de conteúdos e sanções penais rígidas para a produção ou distribuição de conteúdos não rotulados.
Bem-vindos ao futuro. Espero que consigamos dominá-lo, porque ele vai chegar, quer queiramos, quer não.
To have unlimited access to our content including in-depth commentaries, book reviews, exclusive interviews, PS OnPoint and PS The Big Picture, please subscribe
SÃO FRANCISCO – Há dois anos que iniciámos uma transformação de importância comparável à primeira Revolução Industrial. Mas com as previsões dos especialistas para o impacto da inteligência artificial a irem do panglossiano ao apocalíptico, poderemos realmente dizer alguma coisa sobre o que prenuncia? Eu penso que podemos.
Primeiro, nem o nirvana nem a extinção humana estão para breve. Em vez disso, podemos esperar muitos anos de instabilidade. A tecnologia da IA continuará a registar progressos rápidos, com capacidades cada vez mais notáveis. Nem sequer esgotámos os modelos actuais, baseados em transformadores (que dependem grandemente da computação de força bruta), e estão em curso esforços enormes para desenvolver melhores modelos, tecnologias de semicondutores, arquitecturas de processadores, algoritmos e métodos de formação. Por fim, chegaremos a sistemas de inteligência geral artificial que igualem ou ultrapassem o intelecto humano.
Por agora, porém, a IA continua notavelmente limitada. Nem consegue cozinhar uma refeição ou passear o seu cão, muito menos combater uma guerra ou gerir uma organização. Nenhuma superinteligência malévola dominará o planeta nos próximos tempos. Mas a forma como a revolução da IA se desenrolar – e o rácio entre progresso e dor – dependerá de uma série de corridas entre a tecnologia e as instituições humanas. Até agora, a tecnologia está a ultrapassar, de longe, as instituições humanas.
Sou, em grande medida, um optimista quanto aos benefícios potenciais da IA, e vejo desenvolvimentos excitantes e encorajadores no ensino, na arte, na medicina, na robótica e noutros campos. Mas também vejo riscos, a maioria dos quais não está a ser abordada. Segue-se um périplo breve e necessariamente simplista.
É complicado
Tal como aconteceu durante a Primeira Revolução Industrial, os efeitos da IA sobre o emprego e o rendimento distribuir-se-ão de forma caprichosa, e aparecerão frequentemente quase sem aviso prévio. A trajectória global do produto nacional produto poderá parecer maravilhosamente positiva e suave, mas sob essa curva limpa haverá uma grande quantidade de dor e ansiedade para números consideráveis de pessoas, em todos os níveis da sociedade, juntamente com novas oportunidades para muitos, e fortunas enormes para alguns.
Winter Sale: Save 40% on a new PS subscription
At a time of escalating global turmoil, there is an urgent need for incisive, informed analysis of the issues and questions driving the news – just what PS has always provided.
Subscribe to Digital or Digital Plus now to secure your discount.
Subscribe Now
Actualmente, a IA é mais adequada à automação de actividades altamente complexas, mas também altamente estruturadas: circular por ruas, classificar imagens, jogar xadrez, usar linguagens (tanto humanas como computorizadas). Mas o efeito actual da IA sobre uma actividade humana particular depende de três variáveis: a taxa e o grau de automação, os níveis de competências humanas associadas às actividades que podem (e não podem) ser automatizadas e, mais crucialmente, quanta procura adicional será criada pela disponibilização de automação barata através da IA.
O que isto significa na prática poderá surpreender bastante. Considerem-se alguns exemplos, a começar pela tradução de línguas. Falei recentemente com dois eminentes especialistas de IA, um depois do outro. O primeiro defendeu que a IA eliminará completamente os tradutores humanos, porque a tradução por IA será essencialmente perfeita dentro de cinco anos. Mas o segundo especialista defendeu que precisaremos de mais tradutores que nunca. Como a IA permite a tradução rápida e barata de qualquer coisa, haverá uma explosão dos conteúdos traduzidos, e será necessária supervisão humana para formar e melhorar os sistemas de IA, e também para rever e corrigir os conteúdos mais importantes.
Depois de investigar mais, concluí que esta segunda perspectiva é mais exacta. Existirá uma enorme explosão naquilo que é traduzido (com efeito, já existe); e para algumas coisas, continuaremos a querer a supervisão humana. A tradução não se destina apenas a previsões meteorológicas e a menus; também se destina ao FBI, à CIA, a empresas de produtos químicos, fabricantes de dispositivos médicos, médicos de emergência, líderes mundiais, cirurgiões, pilotos de aviões, comandos militares e linhas para prevenção do suicídio. Embora as funções dos tradutores humanos transitem para a formação, a monitorização e a correcção dos sistemas de IA, é provável que necessitaremos de tradutores durante muito tempo.
Surgem questões semelhantes noutros campos. Muitos acreditam que os dias dos engenheiros de software estão contados, porque a IA está a fazer bastante bem o que eles fazem, usando apenas instruções humanas não-técnicas. Mas outros defendem que esta tendência motivará um grande aumento na quantidade e na complexidade do software produzido, exigindo muitos especialistas humanos para conceptualizar, organizar, confirmar e monitorizar esta enorme quantidade de código. Aqui, ainda não existe consenso sobre os efeitos líquidos da IA sobre o trabalho.
Para os advogados, o futuro parece ser mais difícil. Ainda estamos no início, mas já tive várias conversas que correm mais ou menos desta forma: precisámos de um contrato de emprego / investimento / parceria / aquisição, mas o nosso advogado estava a demorar imenso, por isso pedimos ao Perplexity (um serviço de IA) para redigi-lo, e funciona. Pedimos a um advogado para revê-lo, e estava tudo bem, por isso não precisamos mais de advogados, excepto para rever conteúdos.
E, ao contrário da tradução de idiomas, não parece provável que a IA origine uma explosão por mil no trabalho jurídico. Por isso, prevejo que a advocacia ficará na verdade sob pressão, e os humanos só tratarão dos casos complexos que necessitem de especialistas altamente formados. Em contrapartida, em algumas profissões – a contabilidade e a auditoria são frequentemente mencionadas – a IA servirá para aliviar faltas graves de profissionais treinados.
Consideremos agora a condução. A actual (e completamente justificada) ênfase nos veículos autónomos obscureceu outra coisa: a AI já despromoveu a condução enquanto profissão. Há vinte anos, um condutor de táxi urbano tinha de ser inteligente, de estar alerta e de ter uma memória soberba. Mas actualmente, o lendário domínio do “the Knowledge” (NdT – “The Knowledge”, ou “O Conhecimento”, consistia numa difícil prova sobre a geografia e ruas da cidade de Londres a que os taxistas eram submetidos) por parte dos taxistas londrinos já não é necessário. A disponibilização, em todos os telefones, de indicações detalhadas e baseadas na IA transformou a condução profissional num biscate sem qualquer complexidade para as plataformas de transporte de passageiros. E quando a condução autónoma se tornar suficientemente boa (e está quase nesse ponto), estes empregos desaparecerão completamente.
A seguir, consideremos a robótica (da qual os veículos autónomos são, na verdade, apenas um exemplo). Com a IA generativa, estamos a testemunhar uma revolução que acabará por afectar toda a actividade física, desde o trabalho manual ao trabalho doméstico e à guerra. O investimento de capital de risco na robótica aumentou acentuadamente este ano para os milhares de milhões de dólares, sugerindo que a indústria do capital de risco está a apostar fortemente em que os robôs começarão a substituir os humanos numa escala gigantesca durante os próximos cinco anos. As primeiras actividades a serem completamente automatizadas serão em ambientes altamente estruturados e controlados: armazéns, centros de entregas, supermercados, linhas de produção. A automação demorará mais para actividades não-estruturadas e próximas dos humanos (como na sua casa, ou na estrada), mas também aí estão a ser feitos progressos.
Os novos sonâmbulos
Um outro domínio onde a IA tem tido uma evolução assustadoramente rápida é o armamento. Aqui, a analogia relevante não é a Revolução Industrial, mas sim a I Guerra Mundial. Em 1914, muitas pessoas de ambos os lados pensavam que a guerra seria relativamente indolor; em vez disso, as novas tecnologias – metralhadoras, explosivos, artilharia e armas químicas – causaram uma horrível carnificina em massa.
E temo que, presentemente, poucos líderes políticos ou militares compreendam precisamente como a guerra baseada na IA poderá ser mortífera. A IA removerá os humanos de muitas posições de combate, mas isso também significará que quaisquer humanos que estejam no combate serão mortos com eficiência extrema. Isto resultará em guerras assépticas, sem quaisquer combatentes humanos, ou num massacre sem precedentes? As evidências iniciais da Ucrânia não são encorajadoras.
Os sistemas baratos e baseados na IA também estão a desestabilizar as origens do poder militar nacional, ao tornarem sistemas dispendiosos e controlados por humanos como veículos blindados, navios e aviões, extremamente vulneráveis a armas baratas e controladas por IA. O que é pior é que isto acontece no início de uma nova guerra fria, e durante um período de instabilidade política nacional acrescida por todo o Ocidente. E o que significará a IA para o controlo de armas? Poderá a Segunda Emenda da Constituição dos EUA vir a ser interpretada para proteger armas controladas por IA, que possam ser posicionadas numa janela de um quarto de hotel e programadas para atingir todas as pessoas na rua, ou uma pessoa específica, uma semana mais tarde?
Uma preocupação final é a desinformação. Apesar de a IA já ser capaz de produzir falsificações com algum grau de realismo, em texto, imagens, vídeos curtos e áudio, muitos observadores têm encontrado consolo no papel aparentemente menor que as falsificações produzidas pela IA desempenharam, até agora, nas eleições e nos meios noticiosos. Mas seria perigosamente prematuro declarar vitória. Presentemente, as organizações noticiosas respeitáveis, as principais plataformas da internet e os serviços nacionais de informações têm bastante facilidade em determinar o que é verdadeiro e o que é falso. Mas a tecnologia da IA está ainda na sua infância. O que acontecerá dentro de uma década (ou talvez antes) quando ninguém será capaz de afirmar com segurança o que é verdadeiro?
Estas questões serão relevantes em muitos domínios. Uma implicação óbvia é que os países precisam de reinventar e de fortalecer as suas redes de segurança social e os seus sistemas de ensino, para navegarem por um mundo onde competências e profissões inteiras aparecerão e desaparecerão rápida e frequentemente. A raiva que vemos nas pessoas deixadas para trás pelos últimos 30 anos de globalização parecerá provavelmente ligeira quando for comparada com aquilo que a IA poderá trazer, a menos que nos preparemos para tal. De forma semelhante, precisamos de uma regulamentação extremamente rigorosa para os deepfakes, que inclua requisitos de rotulagem de conteúdos e sanções penais rígidas para a produção ou distribuição de conteúdos não rotulados.
Bem-vindos ao futuro. Espero que consigamos dominá-lo, porque ele vai chegar, quer queiramos, quer não.