Ministério Público questiona uso de IA em programa educacional em São Paulo

O MPSP solicita explicações ao governo de São Paulo sobre a plataforma Elefante Letrado, que utiliza IA para analisar a leitura de crianças, após denúncias sobre a falta de consentimento familiar para o uso de dados pessoais.
elefante-letrado-mpsp-ia

A plataforma Elefante Letrado registra a voz de alunos do 1º ao 5º ano do Ensino Fundamental durante as atividades de leitura e analisa aspectos como velocidade, acertos e erros, além da prosódia. O promotor de Justiça Dr. Moacir Menicheli Reis solicitou esclarecimentos preliminares, uma vez que não existem elementos suficientes, até o momento, que indiquem irregularidades. Caso se confirme a ilegalidade, o MPSP poderá encaminhar o caso para uma investigação mais aprofundada e, posteriormente, para julgamento judicial.

A Secretaria Municipal de Educação de São Paulo e a Elefante Letrado Serviços Educacionais Ltda. têm um período de 30 dias para apresentar suas respostas, acompanhadas de documentação que comprove a regularidade do uso da ferramenta. Até o momento, não houve retorno por parte das instituições contatadas.

Informações disponíveis no site da Elefante Letrado indicam que os dados coletados podem ser compartilhados com empresas desenvolvedoras do aplicativo, incluindo a Amazon Web Services, responsável pelo armazenamento em nuvem, bem como com autoridades públicas em situações específicas.

A empresa ressalta que qualquer compartilhamento de dados ocorrerá dentro dos limites estabelecidos pela legislação vigente, respeitando a finalidade do tratamento das informações. A plataforma também afirma que está em conformidade com as exigências da legislação da União Europeia e que cláusulas contratuais específicas são aplicadas quando necessário, em atendimento ao que foi estabelecido pela Secretaria da Educação do Estado de São Paulo.

A LGPD impõe regras rigorosas sobre o tratamento de dados de crianças e adolescentes, exigindo o consentimento de um responsável legal, além de uma comunicação clara sobre como as informações serão utilizadas. A escola e os pais devem ser informados se os dados forem utilizados para treinar IA, e qualquer adição de informações pelos usuários deve ser controlada para proteger dados sensíveis.

A legislação também proíbe explicitamente práticas de perfilamento comportamental e comercial, que envolvem a análise do comportamento dos usuários para criar padrões de consumo e características psicológicas. Em caso de descumprimento, a Elefante Letrado pode enfrentar advertências, suspensão de atividades e multas que podem chegar a R$ 50 milhões, além da possibilidade de um processo de improbidade administrativa contra o governo estadual.