Palavra de Sá

Temos que ter o controle da IA antes que bandidos e governos autoritários o façam, diz pioneiro da educação à distância

De chatbots e assistentes virtuais a veículos autônomos, a Inteligência Artificial (IA) está aos poucos ganhando espaço em nosso dia a dia. Para o americano Salman Khan, pioneiro do ensino à distância e fundador da Khan Academy, a tecnologia já está tão robusta que não há mais como fugir.

“A tecnologia já está aí e algumas pessoas podem escolher ignorar, mas não acho que seja uma boa estratégia”, afirmou Khan em entrevista à BBC News Brasil.

“Na verdade, ela será usada por pessoas com más intenções, por bandidos para promover fraudes ou por governos autoritários para vigiar as pessoas. E na minha opinião, depende daqueles que têm boas intenções tomar o controle antes.”

Formado no Instituto de Tecnologia de Massachusetts (MIT) e em Harvard, nos Estados Unidos, Khan deixou uma carreira no mercado financeiro para fundar a Khan Academy, a maior escola virtual do mundo. A plataforma possui vídeos e exercícios traduzidos para mais de 36 idiomas que ensinam, de forma gratuita, des aritmética básica até cálculo vetorial.

Agora, com o desenvolvimento de novas tecnologias com Inteligência Artificial e a sua infiltração na educação, a Khan Academy está desenvolvendo sua própria IA generativa. A ideia é que a ferramenta seja usada como um tutor para os estudantes e um assistente para os professores.

Para Khan, a tecnologia é a saída para evitar o uso indevido da IA na educação.

“Se usarmos bem a tecnologia, teremos menos salas de aula onde as crianças se sentem perdidas ou entediadas e onde o professor fica dando palestras para os alunos - que foi basicamente o que aconteceu em muitas escolas durante a pandemia, com as aulas pelo Zoom”, diz.

Em relação aos questionamentos feitos por muitos sobre o machine learning e a exibição de comportamentos parciais ou preconceituosos, o empresário disse acreditar que eles podem ser muitas vezes impossíveis de serem evitados, especialmente nas ciências humanas.

Mas diz que, com aulas online, é muito mais fácil monitorar quaisquer irregularidades.

“Se uma IA generativa é flagrada dizendo algo tendencioso, alguém pode facilmente tirar um print, colocar nas redes sociais e desacreditar a organização que desenvolveu a tecnologia”, diz. “Isso não podia ser feito em uma sala de aula tradicional. Se um educador diz algo tendencioso, é mais difícil examinar minuciosamente e provar que aquilo aconteceu.”

Leia a seguir os principais trechos da entrevista de Salman Khan à BBC News Brasil, editada por concisão e clareza:

·         Ainda podemos brecar o avanço da tecnologia de IA na educação ou já passamos desse ponto?

Salman Khan - A tecnologia já está aí e algumas pessoas podem escolher ignorar, mas não acho que seja uma boa estratégia. Na verdade, ela será usada por pessoas com más intenções, por bandidos para promover fraudes ou por governos autoritários para vigiar as pessoas. E na minha opinião, depende daqueles que têm boas intenções tomar o controle antes.

Toda tecnologia é apenas uma extensão da intenção do usuário, não importa se estamos falando de IA, internet, energia nuclear ou uma máquina a vapor. Se houver mais pessoas querendo utilizar a energia nuclear para o mal do que para o bem, por exemplo, o efeito será negativo.

Na minha opinião, a melhor maneira de abordar a IA neste momento é que pessoas com boas intenções a utilizem da forma correta, pensem proativamente sobre novos meios de proteção e tentem minimizar os riscos. Ou seja, não devemos nos esconder e sim nos envolver mais.

·         Muitos temem que as novas ferramentas de IA que se tornaram populares nos últimos anos possam prejudicar o processo de aprendizagem, ajudando alunos a colar e desvalorizando o papel dos professores na educação. Mas o senhor tem uma perspectiva diferente, não?

Khan - Sim. Acredito que temos que resolver alguns problemas, mas há muitas oportunidades a serem exploradas.

Obviamente que o maior desafio é a possibilidade - e a realidade, na verdade, já que isso já está acontecendo - do uso da IA generativa para colar, escrever redações, resolver problemas matemáticos. Mas acredito que há soluções para isso. O Chat GPT não foi criado para propósitos educacionais e o que temos que fazer é desenvolver ferramentas específicas para estudantes.

Na Khan Academy, criamos a Khanmigo, nossa própria IA que funciona como um bom tutor socrático. Ele não dá respostas, mas feedbacks e sugestões. A ideia é que a IA e os alunos trabalhem juntos para escrever uma redação, por exemplo. Ou seja, o professor dá a tarefa pelo Khanmigo e os alunos devem trabalhar nela ali mesmo. A tecnologia pode apontar erros e sugerir que o estudante reformule frases e argumentos e, ao final, os professores podem acessar a transcrição do chat. A IA também pode avaliar o processo, informando quantas horas o aluno passou trabalhando naquele texto e quais foram as principais dificuldades, além de sugerir uma nota para o texto ao professor.

E, claro, algumas pessoas vão dizer: ‘mas o que impede um estudante de usar o Chat GPT mesmo assim?’. Nesse mundo, se um aluno usa uma IA para escrever a redação e só copia e cola o texto final no Khanmigo, nossa IA vai dizer ao professor ‘não sei de onde veio essa redação, ela só apareceu aqui de repente’.

E qualquer um que afirme ter desenvolvido ferramentas que permitam detectar textos criados por uma IA generativa está mentindo. É muito fácil escapar de tecnologias assim. Portanto, focar no processo e não apenas no resultado é, na verdade, a principal forma de resolver o problema da cola.

·         Em uma pesquisa recente, a Unesco destaca a importância da interação social no processo de aprendizagem e aponta que durante a pandemia muitos estudantes foram prejudicados pelo ensino à distância. Um tutor de IA, em vez de um humano, não poderia repetir esse padrão?

Khan - Para deixar claro, não vejo a IA como um substituto para a interação humana. Na verdade, a tecnologia deve ser usada para facilitar a interação humana ou apoiar o aluno quando não há humanos disponíveis.

Todos nós lembramos da época em que éramos estudantes e estávamos 11 horas da noite, antes de uma prova, tentando entender um conceito, sem ninguém para ajudar. É aí que a tecnologia entra. Ou então quando um aluno tem vergonha de tirar uma dúvida na frente de uma sala lotada, ele pode perguntar para a IA - que, aliás, avisará ao professor sobre aquela dúvida e todas as outras, sugerindo que, por exemplo, ele faça uma nova explicação em sala de aula.

Se usarmos bem a tecnologia, teremos menos salas de aula onde as crianças se sentem perdidas ou entediadas e onde o professor fica dando palestras para os alunos - que foi basicamente o que aconteceu em muitas escolas durante a pandemia, com as aulas pelo Zoom.

·         E os professores? No Brasil, essa já é uma profissão muito desvalorizada. Usar IA não poderia piorar ainda mais a situação?

Khan - Não acredito. Nossa proposta é usar a IA também como um assistente de ensino para professores, ajudando a desenvolver planos de aula, a escrever relatórios de progresso e até a avaliar trabalhos. Os professores passam muito tempo fazendo tarefas administrativas e, dessa forma, eles podem se dedicar mais a estar com os alunos de fato.

Ter as ferramentas mais modernas em qualquer profissão é um sinal de que essa profissão é valorizada. E há uma oportunidade aqui para educadores começarem a aproveitar a IA generativa de maneiras significativas muito antes de outras profissões, até mesmo engenheiros de software, programadores ou cientistas.

Não se trata de substituir o que o professor faz, mas permitir que eles atuem em um nível ainda mais elevado. Sabemos que os professores não são tão valorizados e bem pagos como deveriam e, ao mesmo tempo, estão quase sempre sobrecarregados. Portanto, se você puder tornar a vida deles mais fácil, será como um presente.

·         Há uma grande discussão sobre a capacidade da IA de se libertar de conceitos pré-concebidos, aprendidos por meio das interações humanas. Como garantir que os alunos não tenham acesso a conteúdos tendenciosos ou preconceituosos?

Khan - Eu sempre digo que é muito difícil que algo que seja completamente imparcial. Talvez a matemática ou as ciências, mas nas humanidades é quase impossível. Por isso o padrão para a IA deve ser aquilo que segue o status quo. No caso do Khanmigo, tudo é ancorado em conteúdo e exercícios que já foram escritos previamente pelos nossos professores e que seguem padrões altos.

Mas o que é interessante nisso tudo é que, se uma IA generativa é flagrada dizendo algo tendencioso, alguém pode facilmente tirar um print, colocar nas redes sociais e desacreditar a organização que desenvolveu a tecnologia. Isso não podia ser feito em uma sala de aula tradicional. Se um educador diz algo tendencioso, é mais difícil examinar minuciosamente e provar que aquilo aconteceu. Ou seja, com a IA temos 10 milhões de pessoas escrutinando aquele ponto de vista.

·         Tratando agora do lado prático: vivemos em um mundo muito desigual e essas soluções podem funcionar em países mais desenvolvidos, mas e em outros locais? Elas não podem aprofundar as desigualdades de oportunidades e de qualidade da educação entre os países mais pobres e mais ricos?

Khan - Eu acho que, na verdade, vai ajudar a diminuir a desigualdade. Talvez não agora, mas a longo prazo.

Hoje uma pessoa que mora no Brasil e vem de uma família rica, por exemplo, pode contratar um ótimo tutor para ajudar em seus estudos, enquanto os alunos mais pobres não têm essa condição e precisam estudar sozinhos e compreender toda a matéria em uma sala lotada, às vezes com 40 outros alunos. Mas ao longo dos anos, talvez em uns cinco anos mais ou menos, creio que os tutores de IA podem estar disponíveis para cada vez mais pessoas e a um custo bem mais acessível. Isso pode ajudar a preencher a lacuna que existe entre as escolas particulares caras e as públicas ou mais baratas.

·         O setor de educação deve deixar a regulamentação das tecnologias de IA nas mãos das empresas criadoras?

Khan - Os educadores precisam garantir que tudo o que usam tem segurança e medidas de privacidade aceitáveis. O Khanmigo não armazena os dados dos usuários para nada a não ser melhorar a experiência dos alunos - e isso, na minha opinião, é uma exigência. Deve-se garantir que os dados dos não sejam armazenados e comercializados. Portanto, educadores, administradores de escolas e legisladores devem estabelecer diretrizes regionais antes de escolherem quais ferramentas querem usar.

·         O mesmo estudo da Unesco que mencionei anteriormente observa que, na maioria dos países, são necessárias muito mais autorizações e etapas para aprovar um novo livro escolar do que para validar o uso de tecnologias de IA nas escolas e salas de aula. Isso em um cenário em que menos de 10% das escolas e universidades em todo o mundo desenvolveram políticas institucionais ou orientações formais relativas à utilização da IA. Corremos o risco de abaixar os padrões da educação com a IA?

Khan - Não acredito. Acho que a maior parte das pessoas razoáveis enxerga que há muita política envolvida na burocracia para aprovar um livro didático. E no fim das contas, a eficácia não tem nada a ver com o fato de o material A ou B ter sido escolhido. Posso falar sobre os Estados Unidos: diferentes distritos elegem diferentes livros didáticos, mas nos últimos 50 anos não houve qualquer evidência de que um material fez mais diferença do que outro.

E se essas novas ferramentas, sejam elas inteligências artificiais generativas ou a Khan Academy, têm produzido evidências de que estão tendo um impacto significativo para os alunos, então deve ser mais fácil mesmo analisá-las, testá-las e tomar uma decisão. Quanto menos desgaste no processo, melhor.

Muitas escolas independentes ou particulares adotam seu material didático de forma menos burocrática e mais rápida. Então se queremos reduzir a desigualdade não podemos aumentar a burocracia, mas sim permitir que a tomada de decisões aconteça de forma mais rápida e por pessoas que conhecem os alunos, pessoas de dentro das escolas.

 

Fonte: BBC News Brasil