Design e ética em IA: reflexões a partir do impacto social do Lensa enquanto produto digital baseado em Inteligência Artificial

Resumo

As técnicas de Inteligência Artificial – IA – vem sendo aplicadas em diferentes projetos de produtos, sistemas e serviços. Atrelados ao avanço do uso da IA surgem os desafios de ordem ética que permeiam a interação dos seres humanos com tais tecnologias, o que motivou a UNESCO a publicar no ano de 2022 um documento oficial com recomendações sobre a ética da IA objetivando que este seja uma referência para boas práticas em projetos desta natureza. A partir deste cenário, o presente artigo tem como objetivo refletir e discutir sobre ética, IA e seus impactos sociais, tendo como referência o documento de recomendações da UNESCO. Para este fim, foi analisada a documentação disponibilizada por um produto digital voltado a edições fotográficas denominado Lensa. Este produto, quando lançado, obteve ampla aceitação recentemente por produzir ilustrações originais generativas, ao mesmo tempo em que suscitou questionamentos éticos sobre o tratamento e o uso de dados sensíveis dos usuários, bem como impactou diretamente a comunidade de ilustradores e designers digitais. Esta pesquisa tem perfil qualitativo, do tipo estudo de caso, conduzida por meio de análise documental, na qual, a partir de um aporte teórico pertinente, foi realizada uma análise da documentação disponível aos usuários do referido aplicativo à luz dos dez princípios para a ética da IA propostos em documento da UNESCO. Como resultado, verificou-se que o aplicativo Lensa até o momento da publicação deste estudo, apresenta uma série de pendências do ponto de vista ético, demandando um maior cuidado especialmente relacionado às questões de transparência e explicabilidade da IA. As reflexões e conclusões aqui apresentadas enfatizam o papel do design como área e do designer como profissional enquanto humanizadores das tecnologias perante estes desenvolvimentos, suas possibilidades e desafios.