O que o sistema de água em Flint, Michigan, a rede elétrica em Porto Rico e o seu motor de busca têm em comum? São todos diretores críticos da tecnologia de interesse público e Stuart Rice Professor Honorário de Pesquisa, UMass Amherst As pessoas esperam que a infraestrutura crítica seja confiável, para minimizar o risco e promover o bem- estar público. Quando falha - como quando a infiltração de chumbo envenenou o abastecimento de água do Flint 2014, ou quando quase todo o poder de Porto Rico se apagou na véspera de Ano Novo em 2024 - o público espera que os riscos sejam mitigados e que os problemas sejam abordados. A infraestrutura crítica de hoje inclui sistemas de alimentação e água, estradas e pontes, e sistemas financeiros e de saúde. Grande parte da tecnologia digital de que todos dependem é também infraestrutura crítica. As pessoas dependem de motores de busca para informações, mídias sociais para anúncios públicos e comunicações importantes, e serviços alimentados com IA para análise e tomada de decisões. Todos são essenciais para funcionar na sociedade cívica moderna. Quando os motores de busca moldam oportunistamente a informação que as pessoas buscam, as redes sociais são poluídas com desinformação e os serviços impulsionados por AI servem recomendações inseguras ou " digital slop ", muitas pessoas consideram isso até ao custo de se envolver com o setor comercial e se sentem impotentes para controlar suas informações - ou uma forma de " digital demissão ". Minha experiência como ex-diretor do San Diego O Supercomputador Center e co-fundador da International Research Data Alliance sugerem que não precisa ser assim. A infraestrutura digital pode ser projetada, construída e gerenciada para o bem- ser humano, assim como a outra infraestrutura crítica. Para isso, a sociedade precisará mudar as suas expectativas sobre a infraestrutura crítica digital e suas ações - a forma como os setores público e privado criam e regulam esses serviços e sistemas e a forma como o público os usa - para proteger melhor as pessoas que dependem deles.
As pessoas esperam que a infraestrutura crítica seja segura e segura para uso generalizado. Eles esperam que seja amplamente acessível e confiável, e que promova interesses públicos pelo menos tanto quanto lucro comercial. Isto significa incorporar salvaguardas para o público, tais como limites de velocidade nas estradas, sistemas redundantes nas usinas eléctricas e regulamentos de privacidade que regulam os dados de saúde. Nunca é perfeito, mas as pessoas esperam que a infraestrutura crítica seja construída, gerenciada e regulamentada para apoiar e proteger um público vulnerável. Considere os sistemas de alimentação e informação: Ambos sustentam o bem- estar do público de diferentes formas. No sistema alimentar, os padrões de saúde pública protegem a forma como seu alimento é processado para que não o faça doente. Os restaurantes são avaliados com base no cumprimento destes padrões de saúde: Os alimentos são manuseados e armazenados em temperaturas seguras? As cozinhas estão desinfectadas corretamente? Em muitos lugares, os restaurantes devem mostrar publicamente a nota de letras que o departamento de saúde lhes dá. É mais fácil fazer escolhas saudáveis quando você sabe se um restaurante tem um A ou um C. Os motores de pesquisa também são infraestruturas críticas, configurando como as pessoas acedem à informação essencial para a vida moderna.
No entanto, os sistemas de classificação de algoritmos de pesquisa oportunistas frequentemente priorizam conteúdos que são comercialmente vantajosos, fortemente otimizados e que captam a atenção. Estas prioridades moldam a compreensão pública, influenciam o discurso democrático e às vezes podem dar aos usuários uma visão distorcida da realidade. E se as pessoas esperassem que os motores de busca fornecessem transparência semelhante sobre como selecionar e classificar o conteúdo? E se você conhecesse as prioridades algoritmos de um motor de pesquisa, como ele o perfila como usuário e como a publicidade molda a informação que recebe? Isso pode ajudá- lo a decidir onde procurar informações e quanto confiar no que encontrar. A infraestrutura crítica digital pode colocar as pessoas em risco de diferentes formas. Às vezes as pessoas sentem o impacto imediatamente, como quando a rede de energia se apague ou a internet desaparece. Às vezes falha ao expor as pessoas a um ambiente tóxico - um rio poluído pode prejudicar as pessoas e a vida selvagem que dependem dele, assim como a desinformação perigosa nas redes sociais que promovem fraudes de saúde ou dismórficas corporais pode prejudicar as pessoas que procuram informações e conselhos. Às vezes a infraestrutura crítica digital falha ao não incluir proteção suficiente - criando um ambiente fértil para predadores ou suportando modelos de preços de vigilância que usam informações pessoais para extrair o máximo que os consumidores podem pagar. Para contrarrestar esses riscos, é importante incorporar mais salvaguardas no projeto, implantação e gestão dos sistemas em que as pessoas dependem. Também é importante fornecer aos usuários mais controle sobre o que eles vêem nas redes sociais e quem aparece nos seus feeds, e mais transparência sobre como os dados pessoais coletados por sonecas conectadas ou serviços de comércio eletrônico são usados, compartilhados ou vendidos.
Tais salvaguardas poderiam reduzir o risco e ajudar os usuários a evitar a exploração, manipulação e predadores. Tornar a infraestrutura crítica digital melhor está ao alcance, e as estratégias descritas no meu livro, Melhor tecnologia: colocar as pessoas em primeiro lugar no ciberespaço, e em outros lugares podem tornar a tecnologia tanto melhor, como melhor para as pessoas que dependem dela. Considere o transporte como um exemplo. Especialistas predizem que carros auto- condutores serão ubiquos nas próximas décadas. Os engenheiros podem reduzir os riscos públicos de amanhã hoje, projetando esses "centros de dados sobre rodas" conectados para reduzir as emissões a partir de computadores a bordo, proteger os dados dos passageiros e criar medidas de segurança necessárias para operar com segurança quando a internet nas estradas conectadas de amanhã descer. Tais esforços envolvem planejamento humano, trabalho e intervenção agora para garantir que o transporte futuro promoverá o bem-estar público. A infraestrutura crítica digital pode ser construída e gerenciada melhor; o bem- estar das pessoas depende disso. O desafio hoje é garantir que, à medida que desenvolvemos as tecnologias que moldam o nosso futuro, eles também avançam a sociedade e ajudam os humanos a prosperar. Francine Berman é uma fiduciária do Alfred P. Fundação Sloan, ex-diretor do Centro de Supercomputadores de San Diego, e co-fundador da Investigação Data Alliance.