Há cinco anos, enquanto o auditório em Lisboa se silenciava, Edward Snowden, em exílio russo, apareceu em uma tela, trazendo uma mensagem poderosa: não há limites para a vigilância moderna. Seu tom cauteloso e certeiro nos lembrava que cada ação nossa, cada palavra, cada movimento, estava registrado em um sistema que, apesar de seu alcance sem fronteiras, oferecia poucas salvaguardas. Hoje, a tecnologia e a vigilância só cresceram; nos aproximamos do que ele chamava de “registro permanente”, um arquivo do qual poucos escapam.
Naquele momento, Snowden falava de um mundo em que a tecnologia se entrelaçava com o Estado em um pacto quase faustiano. As Big Techs surgiam como “forças do bem”, até que vimos essas mesmas gigantes assumirem a ambiguidade de seu papel. No WebSummit deste ano, vemos um reflexo desse dilema na discussão sobre a Inteligência Artificial e seu poder em campos variados: cultura, comércio, regulação, e segurança. Os temas de segurança e privacidade, quase negligenciados por um público sedento por inovação, ecoam o grito de alerta de Snowden.
A mesa sobre a Navigating the EU AI Act põe em foco os desafios de regulamentar a AI no continente, mas, ironicamente, as discussões muitas vezes caem na defesa do “como proteger dados”. Snowden nos mostrava, já em 2013, que o problema vai além: o cerne está no “como os dados são coletados”. Não adianta regular a proteção, se permitimos a coleta de tudo o que somos. Outro painel, sobre o avanço da IA generativa no setor corporativo, levanta a questão: o uso dessas tecnologias realmente cria valor para o cliente ou apenas aumenta o acúmulo de informações?
Talvez o momento mais sintomático deste ano seja a conversa entre Frank Cooper e Pharrell Williams sobre o impacto cultural dos criadores. Afinal, a cultura e o comércio digital são impulsionados por dados, de audiência, preferências, comportamentos, tratados como moeda de troca entre empresas e consumidores. O que Snowden denunciava então sobre o “business model abuse” é o espelho da realidade atual: a cultura dos dados foi capturada pelo comércio, transformando pessoas em produtos.
Em um painel sobre “Beyond Chatbots,” o presidente da Alibaba.com explora como a IA conecta pequenas empresas a cadeias globais. Em tese, um avanço significativo. Mas, como Snowden apontou, a pergunta crucial é: quem controla esses dados e a quem eles servem? Em cada elo dessas redes globais, reforça-se o poder dos que detêm a informação, deixando vulnerável quem a fornece.
A provocação final de Snowden naquele auditório há cinco anos parece ressoar ainda mais hoje: a responsabilidade do público em questionar, exigir, entender a tecnologia que permeia nossas vidas. No WebSummit deste ano, a resposta ainda parece indefinida. A questão que Snowden nos deixou em 2013 ainda não tem resposta: “Como confrontar instituições poderosas que agem sem prestação de contas à sociedade?”.
Nota:
11 de novembro de 2024; Pharrell Williams, artista e empreendedor; à esquerda, e Frank Cooper, CMO da Visa; no palco principal durante a noite de abertura do Web Summit 2024 na MEO Arena em Lisboa, Portugal. Foto de Tyler Miller/Web Summit via Sportsfile.
