No último post, recomendamos a leitura do estudo "The Impact of the General Data Protection Regulation on Artificial Intelligence", liderado pelo Professor Giovanni Sartor e pela Dra. Francesca Lagioia.
No mesmo ano, Giovanni Sartor publicou um estudo semelhante sobre o Impacto da Inteligência Artificial na Proteção do Consumidor e nos Serviços Online (New Aspects and Challenges in Consumer Protection Digital Services and Artificial intelligence), cuja leitura também recomendamos.
Neste estudo, foram revelados os desafios e oportunidades decorrentes da integração da inteligência artificial (IA) nos serviços digitais e na proteção do consumidor. O estudo, encomendado pelo Policy Department for Economic, Scientific and Quality of Life Policies, lança luz sobre as implicações da IA na proteção de dados, privacidade do consumidor e responsabilidade dos provedores de serviços.
O estudo destaca a emergência de uma mudança de paradigma na relação entre consumidores online e provedores de serviços. Com o surgimento de intermediários poderosos no cenário digital, os consumidores se encontram em uma posição desequilibrada. Esses intermediários, que oferecem serviços essenciais como acesso à internet, compartilhamento de conteúdo e pagamentos online, aproveitam as tecnologias de IA para direcionar anúncios personalizados aos consumidores com base em seus dados coletados.
A integração da IA, especialmente o aprendizado de máquina, revolucionou a capacidade dos comerciantes de entender o comportamento e as preferências do consumidor. Ao analisar dados de compras, visitas a sites e engajamento nas redes sociais, os comerciantes podem prever e influenciar as reações dos consumidores por meio de anúncios personalizados. No entanto, o estudo alerta para os riscos potenciais associados a esse poder, incluindo a manipulação do comportamento do consumidor com base em vulnerabilidades psicológicas, falta de informação ou desespero.
O estudo também revela o surgimento de uma economia de dados pessoais, onde vários tipos de informações pessoais são coletados e trocados. Essa economia orientada por dados conta com a IA para antecipar e modificar o comportamento do consumidor, com profundas implicações nos modelos de negócios das plataformas online. Para atrair e reter consumidores, as plataformas utilizam a IA para identificar as mensagens e informações mais eficazes, que podem incluir boatos, falsificações e conteúdos que reforçam preconceitos, desencadeiam emoções negativas e promovem divisão e polarização.
Além disso, as tecnologias de IA estão sendo cada vez mais empregadas pelos provedores de serviços online para detectar e responder a comportamentos ilegais e inadequados na internet. Embora essas tecnologias ofereçam o potencial para uma moderação eficaz de conteúdo, garantindo o rápido processamento de conteúdo gerado pelo usuário, existem preocupações em relação à precisão, viés e natureza discriminatória das respostas da IA. Equilibrar a necessidade de moderação com a preservação da liberdade de expressão e dos direitos dos usuários representa um desafio significativo.
O estudo do Prof. Giovanni Sartor serve como um alerta para formuladores de políticas, partes interessadas do setor e consumidores. Ele enfatiza a necessidade urgente de regulamentações robustas e estruturas éticas para lidar com os riscos e maximizar os benefícios da IA no âmbito da proteção do consumidor e dos serviços online.
Link do estudo: https://www.europarl.europa.eu/committees/en/supporting-analyses
LOBO, Lydia Mauler. Advogada, OAB/SP 358.859. Tendências e Desafios: O Impacto da Inteligência Artificial na Proteção do Consumidor e Serviços Online. São Paulo, 2023.
Commenti