Chat GPT: Por que ele erra tanto?

Entre para nossa lista e receba conteúdos exclusivos!

O Chat GPT é um verdadeiro fenômeno entre todos os usuários de internet pelo mundo. Decerto, desde o sua versão anterior, o GPT-3,5 até a atual GPT-4 essa inteligência artificial atraiu os olhos de diversos internautas, pesquisadores, acadêmicos e cientistas da computação. Com efeito, esse chatbot possui a capacidade de interagir com o usuário por meio de um chat, via mensagens de texto, e então fornecer diversas possíveis saídas.

De fato, a possibilidade de interagir com uma inteligência artificial de perto fez com que o programa se torna-se muito popular. Todavia, um dos fatores de destaque é sua capacidade em responder diversas perguntas das mais variadas áreas possíveis, inclusive questões filosóficas, sociais e até mesmo de responder aquela questão difícil da sua prova de cálculo.

Entretanto, a medida que seu uso foi popularizado vários problemas em sua execução foram notados. Em particular, vários usuários relataram que o chat gpt não conseguia realizar cálculos simples, como por exemplo cálculos de operações básicas e com poucos dígitos. Nesse sentido, uma forte dúvida emergiu nos usuários: por que o Chat GPT erra?

Nesse sentido, nós da MeuGuru viemos trazer esse artigo para você Gurunauta, o qual vai te alertar sobre os perigos de confiar suas questões ao chat gpt. Então, vem comigo que hoje vamos nos adentrar nesse mundo das inteligências artificiais.

Bem vindo ao mundo das inteligências artficiais

Primeiro de tudo, é importante entendermos o que é uma inteligência artificial. Entretanto, vamos logo dizer que nosso foco não é, de forma alguma, nos debruçarmos sobre os conceitos e nuances desse assunto. Assim, podemos dizer que a inteligência artificial é uma subárea da ciência da computação que se concentra no desenvolvimento de sistemas e algoritmos capazes de reproduzir ou reproduzir os processos de pensamento, raciocínio, aprendizado e tomada de decisão humanos. A inteligência artificial visa desenvolver máquinas inteligentes capazes de realizar tarefas complexas de forma autônoma e independente da intervenção humana.

imagem representativa de uma inteligência artificial usando um chatbot como representação do Chat GPT.

De fato, a ideia de que estamos tentando reproduzir a mente humana remonta até a ficção científica. Mas essa ideia é, na verdade, muito engenhosa e precisa porque o cérebro humano é incrivelmente capaz de conectar várias ideias e criar pensamentos complexos e complexos. Atualmente, há vários setores que usam as inteligências artificiais, de fato essas áreas vão desde a pesquisa cadêmica científica até os setores industriais como os da indústria automobilística, IoT e, também, da construção civil.

O que é o Chat GPT?

Nesse contexto das inteligências artificiais, emerge um poderoso modelo de linguagem que é o Chat GPT (Generative Pre-trained Transformer) o qual foi desenvolvido pela empresa OpenAI. Com efeito, o Chat GPT começou com o desenvolvimento do modelo GPT original, que foi lançado em 2018. O GPT-1 (GPT-1.0) foi treinado para prever a próxima palavra em contextos específicos usando um grande volume de dados, que inclui componentes da Internet.

Desde essas versões o Chat GPT já conseguia fazer tarefas de geração de texto com sucesso, mas frequentemente dava respostas inconsistentes e às vezes dava informações incorretas. Entretanto, o mesmo passou por diversas atualizações, melhorias e modificações até a versão atual. Nesse sentido, vamos, a seguir, explorar um pouco da sua história.

A história do Chat GPT

Em seguida, a OpenAI lançou o GPT-2 em 2019, que era uma versão aprimorada do GPT-1. O GPT-2 alcançou resultados impressionantes em uma ampla gama de tarefas de linguagem natural e foi capaz de gerar textos mais coerentes e de alta qualidade. No entanto, devido ao seu potencial de ser mal utilizado para a disseminação de informações falsas, a OpenAI optou por não lançar a versão completa do GPT-2 ao público em geral, mas disponibilizou versões menores.

Em 2020, a OpenAI lançou o GPT-3, que representou um avanço significativo em relação ao GPT-2. O GPT-3 foi treinado em um conjunto de dados ainda maior e foi notável por sua capacidade de realizar tarefas de linguagem natural, como tradução, geração de código, redação de textos e muito mais. Ele também apresentou melhorias na coerência e no entendimento do contexto, gerando respostas mais precisas e adequadas.

O atual estado do Chat GPT

Atualmente, o Chat GPT consta na versão 4 que foi lançada em 2023. Com efeito, essa versão trouxe várias melhorias e ainda uma maior quantidade de dados visto que foram utilizados dados de até 2021 para seu treinamento. Assim, com essa versão e já é possível que usuários utilizem o mesmo para a geração de textos e redações, produção de slides, elaboração de softwares, interações com o bot e outras funcionalidades.

Entenda por que você não deve confiar no Chat GPT !

Conforme apresentamos anteriormente o Chat GPT , atualmente, é capaz de realizar diversas tarefas e atividades com um bom nível de assertividade e precisão. Todavia, no início da versão 4 vários estudantes, em todo o mundo, confiaram cegamente nessa ferramenta buscaram respostas das questões

Soma de números errados para menção de erros grosseiros no Chat GPT.

de suas provas nessa plataforma. Decerto, o Chat GPT os forneceu as respostas para suas questões, mas eram respostas erradas e até desconexas com o assunto.

Decerto, isso decorre por vários motivos que permeiam tanto a própria fundamentação das inteligências artificiais quanto a própria base de dados do mesmo. Assim, não é incomum que ao solicitar procedimentos algébricos erros como os da figura abaixo ocorram.

Ademais, se perguntarmos para o próprio Chat GPT o motivo de tais inconsistências obtemos a seguinte resposta.

resposta do Chat GPT ao seus erros simples em contas de matemática.

Explicando o motivo

Decerto, há um motivo por trás dessas questões que justifica vários erros e inconsistências do Chat GPT. Com efeito, esses problemas são, em sua maioria, gerados por que inteligências artificiais possuem certa dificuldade em realizar tarefas simples. Além disso, a forma com que os algoritmos efetuam processos algébricas se dá por meio de inúmeras aproximações. Consequentemente, segue que a cada aproximação um determinado erro no processo é acumulado e, assim, levado em diante de modo a gerar um erro catastrófico ao fim do seu desenvolvimento.

Ademais, toda inteligência artificial precisa de um treinamento para seu avanço. Nesse sentido, vale ressaltar que além de estarmos vivenciando o despontar inicial da tecnologia o Chat GPT, na versão atual 4 foi treinado apenas com base de dados até o ano de 2021. Assim, é necessário ainda muitos outros dados até que ele seja capaz, de fato, de resolver suas provas e atividades.

Dicas para usar o Chat GPT com responsabilidade !

Desse modo, é evidente que respostas objetivas e pedidos por desenvolvimentos não são confiáveis se oriundos do Chat GPT. Então, talvez seja melhor você recorrer a realmente quem entende do assunto para te ajudar a: MeuGuru.

Além da dica óbvia da MeuGuru, também podemos te ajudar com algumas dicas de como você pode usar o Chat GPT de forma melhor. Então, confere elas logo a seguir.

  1. Seja específico e claro: Forneça informações claras e específicas sobre sua pergunta ou solicitação. Quanto mais detalhes você der, maior a probabilidade de obter uma resposta precisa e útil.
  2. Faça perguntas simples e diretas: Evite fazer perguntas complexas ou com múltiplas partes, pois o Chat GPT funciona melhor com instruções e solicitações claras. Divida perguntas complexas em várias perguntas mais simples, se necessário.
  3. Faça uso dos tokens de sistema: Os tokens de sistema, como “/start” e “/end”, podem ser úteis para controlar o comportamento do modelo. Você pode começar sua interação com o modelo usando o token “/start” e terminar usando o token “/end”, delimitando assim a conversa.
  4. Contribua com feedback: Se você notar respostas incorretas, informações desatualizadas ou qualquer outro problema, forneça feedback à OpenAI ou à plataforma que está utilizando. O feedback é valioso para aprimorar o sistema e fornecer melhores resultados no futuro.

Referências

  1. SUTTON, Richard S.; BARTO, Andrew G. Reinforcement Learning: An Introduction. MIT Press, 2018.
  2. BURKOV, Andriy. The Hundred-Page Machine Learning Book. Andriy Burkov, 2019.
  3. RUSSELL, Stuart. Human Compatible: Artificial Intelligence and the Problem of Control. Viking, 2019.
  4. ABBEEL, Pieter; SCHULMAN, John. Deep Reinforcement Learning. MIT Press, 2020.
  5. OPENAI. OpenAI. Disponível em: https://openai.com/. Acesso em: 2023.
  6. TENSORFLOW. TensorFlow. Disponível em: https://www.tensorflow.org/. Acesso em: 2023.
  7. GOOGLE AI. Google AI. Disponível em: https://ai.google/. Acesso em: 2023.
  8. MICROSOFT AI. Microsoft AI. Disponível em: https://www.microsoft.com/en-us/ai. Acesso em: 2023.
  9. MIT ARTIFICIAL INTELLIGENCE LABORATORY. MIT CSAIL. Disponível em: https://www.csail.mit.edu/research/artificial-intelligence. Acesso em: 2023.
  10. STANFORD ARTIFICIAL INTELLIGENCE LABORATORY. Stanford AI Lab. Disponível em: https://ai.stanford.edu/. Acesso em: 2023.

Outros Artigos

Legal

® 2021-2024 Meu Guru | 42.269.770/0001-84 • Todos os direitos reservados

Entre para nossa lista e receba conteúdos exclusivos!