Trapaceiros, cuidado: criador do ChatGPT lança ferramenta de detecção de IA
SAN FRANCISCO (AP) - O fabricante do ChatGPT está tentando reduzir sua reputação de máquina de trapaça com uma nova ferramenta que pode ajudar os professores a detectar se um aluno ou uma inteligência artificial escreveu o dever de casa.
O novo classificador de texto AI lançado na terça-feira pela OpenAI segue uma discussão de semanas em escolas e faculdades sobre o medo de que a capacidade do ChatGPT de escrever qualquer coisa sob comando possa alimentar a desonestidade acadêmica e prejudicar o aprendizado.
A OpenAI adverte que sua nova ferramenta – como outras já disponíveis – não é infalível. O método para detectar texto escrito por IA "é imperfeito e às vezes pode estar errado", disse Jan Leike, chefe da equipe de alinhamento da OpenAI encarregada de tornar seus sistemas mais seguros.
"Por causa disso, não se deve confiar apenas na tomada de decisões", disse Leike.
Adolescentes e estudantes universitários estavam entre os milhões de pessoas que começaram a experimentar o ChatGPT depois que ele foi lançado em 30 de novembro como um aplicativo gratuito no site da OpenAI. E enquanto muitos encontraram maneiras de usá-lo de forma criativa e inofensiva, a facilidade com que ele poderia responder a perguntas de testes para casa e ajudar em outras tarefas provocou pânico entre alguns educadores.
Quando as escolas abriram para o ano novo, a cidade de Nova York, Los Angeles e outros grandes distritos escolares públicos começaram a bloquear seu uso nas salas de aula e nos dispositivos escolares.
O distrito das Escolas Públicas de Seattle inicialmente bloqueou o ChatGPT em todos os dispositivos escolares em dezembro, mas depois abriu o acesso a educadores que desejam usá-lo como ferramenta de ensino, disse Tim Robinson, porta-voz do distrito.
"Não podemos nos dar ao luxo de ignorá-lo", disse Robinson.
O distrito também está discutindo a possibilidade de expandir o uso do ChatGPT nas salas de aula para permitir que os professores o usem para treinar os alunos a serem melhores pensadores críticos e permitir que os alunos usem o aplicativo como um "tutor pessoal" ou para ajudar a gerar novas ideias ao trabalhar em uma tarefa. , disse Robinson.
Os distritos escolares de todo o país dizem que estão vendo a conversa sobre o ChatGPT evoluir rapidamente.
"A reação inicial foi 'OMG, como vamos conter a maré de todas as trapaças que acontecerão com o ChatGPT'", disse Devin Page, especialista em tecnologia do Distrito Escolar Público do Condado de Calvert, em Maryland. Agora há uma percepção crescente de que "este é o futuro" e bloqueá-lo não é a solução, disse ele.
"Acho que seríamos ingênuos se não estivéssemos cientes dos perigos que essa ferramenta representa, mas também falharíamos em servir nossos alunos se os proibissemos e a nós de usá-la com todo o seu poder potencial", disse Page, que pensa que os distritos como o seu eventualmente desbloqueará o ChatGPT, especialmente quando o serviço de detecção da empresa estiver em vigor.
A OpenAI enfatizou as limitações de sua ferramenta de detecção em um post de blog na terça-feira, mas disse que, além de impedir o plágio, poderia ajudar a detectar campanhas automatizadas de desinformação e outros usos indevidos da IA para imitar humanos.
Quanto mais longa uma passagem de texto, melhor a ferramenta detecta se uma IA ou um humano escreveu algo. Digite qualquer texto - um ensaio de admissão da faculdade ou uma análise literária de "Homem Invisível" de Ralph Ellison --- e a ferramenta o rotulará como "muito improvável, improvável, incerto se é, possivelmente ou provável" AI -gerado.
Mas, assim como o próprio ChatGPT, que foi treinado em um enorme tesouro de livros digitalizados, jornais e textos online, mas muitas vezes cospe falsidades ou bobagens com confiança, não é fácil interpretar como chegou ao resultado.
“Não sabemos fundamentalmente a que tipo de padrão ele presta atenção ou como funciona internamente”, disse Leike. "Realmente não há muito que possamos dizer neste momento sobre como o classificador realmente funciona."
Instituições de ensino superior em todo o mundo também começaram a debater o uso responsável da tecnologia de IA. A Sciences Po, uma das universidades mais prestigiadas da França, proibiu seu uso na semana passada e alertou que qualquer pessoa encontrada usando o ChatGPT e outras ferramentas de inteligência artificial para produzir trabalhos escritos ou orais poderia ser banida da Sciences Po e de outras instituições.