A Common Sense Media (organização sem fins lucrativos de São Francisco, Estados Unidos, que oferece educação para famílias menos privilegiadas a fim de promover o acesso à democratização da cultura de forma segura) publicou recentemente um quadro para o seu sistema de classificações e análises de IA, concebido para avaliar a segurança, a transparência, a utilização ética e o impacto dos produtos de IA.
Desse quadro fazem parte estes princípios para a utilização da Inteligência Artificial na Educação:
Colocar as pessoas em primeiro lugar: O produto respeita os direitos humanos e os direitos das crianças, bem como a identidade, a integridade e a dignidade humana? Apoia a ação humana com modelos “ser-humano-no-processo” e “adultos-no-processo” (pais, tutores, educadores)? Promover a aprendizagem: O produto está centrado nas necessidades de cada aluno (incluindo alunos com diversidade linguística e alunos com deficiência)? Está alinhado com o currículo? Promove o gosto pela aprendizagem? Dar prioridade à equidade: O produto dá prioridade à partilha equitativa dos benefícios da inteligência artificial, com o objetivo de eliminar preconceitos injustos no desenvolvimento e utilização de sistemas de IA? Ajudar as pessoas a ligarem-se: O produto promove o contacto humano significativo e a ligação interpessoal? Não deve incitar ao ódio contra um indivíduo ou grupo, desumanizar indivíduos ou grupos, ou empregar insultos e estereótipos raciais, religiosos, misóginos ou outros que incitem ou promovam o ódio. Ser de confiança: O produto não perpetua a desinformação ou a má informação? Evita contradizer consensos de especialistas bem estabelecidos e a promoção de teorias que são comprovadamente falsas ou desactualizadas? Defender a privacidade: O produto protege os dados? Cumpre as melhores práticas relacionadas com dados e privacidade e proporciona transparência e controlo adequados sobre a utilização dos dados? Manter as crianças e os adolescentes seguros: O produto protege a segurança, a saúde e o bem-estar das crianças, independentemente do facto de o produto se destinar a ser utilizado por elas? Ser transparente e responsável: O produto fornece mecanismos de feedback, ferramentas de moderação para adultos ou ferramentas de notificação que assinalam conteúdos potencialmente nocivos?
As presentes Orientações Éticas sobre a Utilização de IA e de Dados no Ensino e na Aprendizagem, publicadas pela Direção-Geral da Educação, da Juventude, do Desporto e da Cultura da Comissão Europeia, em 2022, visam ajudar os educadores a compreender o potencial que as aplicações de IA e a utilização de dados podem ter na educação e alertar para os possíveis riscos. Dessa forma, poderão interagir de forma positiva, crítica e ética com os sistemas de IA e explorar todo o seu potencial.
Comissão Europeia, Direção-Geral da Educação, da Juventude, do Desporto e da Cultura, Orientações éticas para educadores sobre a utilização de inteligência artificial (IA) e de dados no ensino e na aprendizagem, Serviço das Publicações da União Europeia, 2022, https://data.europa.eu/doi/10.2766/07