Por trás das respostas produzidas pelo ChatGPT existe um processo de avaliação que não depende apenas de sistemas automatizados. Parte das interações feitas pelos usuários pode ser analisada por funcionários e prestadores autorizados da OpenAI como parte dos procedimentos utilizados para avaliar e aprimorar o comportamento dos modelos de inteligência artificial.
A informação foi destacada em uma reportagem publicada pelo portal 404 Media, que descreveu o trabalho de profissionais terceirizados contratados para examinar interações realizadas no serviço. Em determinadas situações, esse material pode conter informações pessoais fornecidas pelos próprios usuários.
Como funciona a análise das conversas
Os profissionais responsáveis pela revisão avaliam comandos enviados ao ChatGPT e as respostas produzidas pela ferramenta. O objetivo é identificar comportamentos que possam ser corrigidos ou aperfeiçoados durante o desenvolvimento dos modelos.
Entre os aspectos observados estão respostas consideradas excessivamente submissas às solicitações dos usuários e comportamentos que podem fazer o sistema parecer demasiadamente semelhante a uma pessoa.
As avaliações humanas fornecem informações que podem ser utilizadas pelas equipes responsáveis pelo desenvolvimento dos modelos para ajustar o funcionamento da inteligência artificial.
Conteúdos pessoais podem aparecer durante a revisão
O acesso humano às interações também levanta questões relacionadas à privacidade, principalmente porque o ChatGPT é utilizado para tratar de assuntos pessoais, profissionais e informações que os usuários podem considerar confidenciais.
A OpenAI afirma utilizar mecanismos automáticos para identificar e remover determinados dados capazes de identificar uma pessoa antes que o conteúdo seja encaminhado para revisão. Esses sistemas, entretanto, não são infalíveis e podem não reconhecer todas as informações pessoais presentes em uma conversa.
Isso significa que, dependendo do conteúdo enviado ao chatbot, informações potencialmente sensíveis podem permanecer no material analisado pelos profissionais responsáveis pela avaliação.
OpenAI possui controles de privacidade
A empresa informa que o acesso ao conteúdo dos usuários é limitado a pessoas autorizadas e submetido a controles de segurança. A OpenAI também disponibiliza configurações que permitem ao usuário determinar se suas novas conversas poderão ser utilizadas para melhorar os modelos.
No ChatGPT, a opção “Melhorar o modelo para todos” pode ser desativada nas configurações de controles de dados. De acordo com a empresa, as conversas realizadas depois dessa alteração permanecem no histórico, mas não são utilizadas para treinamento dos modelos.
Ainda assim, a política de privacidade e os mecanismos de tratamento de dados variam conforme o produto, a configuração utilizada e a finalidade do processamento.
Revisão humana faz parte do desenvolvimento de IAs
A participação de avaliadores humanos não é exclusiva do ChatGPT. Outras empresas que desenvolvem modelos de inteligência artificial também utilizam pessoas para analisar respostas e identificar problemas nos sistemas.
Segundo informações citadas pelo 404 Media, a Anthropic também confirmou a utilização de revisão humana em processos relacionados ao aperfeiçoamento de seus modelos.
A prática mostra que, apesar do funcionamento automatizado dos chatbots, o desenvolvimento desses sistemas ainda envolve etapas nas quais profissionais analisam resultados produzidos pela IA e fornecem informações para orientar ajustes.
Privacidade exige atenção dos usuários
A possibilidade de uma conversa ser analisada por pessoas autorizadas reforça a importância de ter cuidado com o tipo de informação compartilhada em ferramentas de inteligência artificial.
Dados pessoais, documentos, senhas, informações bancárias e outros conteúdos altamente sensíveis não devem ser inseridos desnecessariamente em serviços de IA, independentemente da plataforma utilizada.
Para quem utiliza o ChatGPT com frequência, também é importante conhecer os controles de dados disponíveis e verificar as configurações de privacidade da conta.
*Da Agência Fonte Exclusiva