As democracias vão enfrentar o Big Brother?

CAMBRIDGE⁠⁠- Escritores de ficção há tempos têm imaginado cenários em que cada ação humana é monitorada por alguma autoridade centralizada maligna. Mas agora, apesar das advertências deles, nos encontramos caminhando em direção a um futuro distópico digno do 1984 de George Orwell. A tarefa de avaliar como proteger nossos direitos – como consumidores, trabalhadores e cidadãos – nunca foi tão urgente.

Uma proposta razoável é limitar as patentes sobre tecnologias de vigilância para desencorajar seu desenvolvimento e uso excessivo. Tudo o mais igual, isso poderia direcionar o desenvolvimento de tecnologias relacionadas à IA para longe das aplicações de vigilância – pelo menos nos Estados Unidos e em outras economias avançadas, onde as proteções de patentes fazem diferença e onde os capitalistas de risco relutarão em apoiar empresas sem direitos sólidos de propriedade intelectual. Mas mesmo que tais medidas razoáveis sejam adotadas, o mundo permanecerá dividido entre países com salvaguardas efetivas sobre vigilância e aqueles sem elas. Portanto, também temos de levar em consideração a base legítima para o comércio entre estes blocos emergentes.

As capacidades de IA vêm avançando nos últimos 18 meses, e é improvável que o ritmo de desenvolvimento desacelere. O lançamento público do ChatGPT em novembro de 2022 foi o tiro de IA generativa que ressoou no mundo todo. Mas tão importante quanto este episódio tem sido o aumento igualmente acelerado das capacidades de vigilância dos governos e das empresas. Como a IA generativa se destaca na correspondência de padrões, ela está tornando o reconhecimento facial notavelmente preciso (embora não sem algumas falhas importantes). E a mesma abordagem geral pode ser usada para distinguir entre comportamento “bom” e problemático, baseado apenas no modo como as pessoas se movem ou se comportam.