Meus Discos e Livros
E algo mais
Como professora ofendida levou Google ao STF e pode mudar redes no Brasil
Como professora ofendida levou Google ao STF e pode mudar redes no Brasil
https://www.uol.com.br/tilt/noticias/redacao/2024/11/26/como-professora-ofendida-levou-google-ao-stf-e-pode-mudar-redes-no-brasil.htm Helton Simões Gomes, Diogo Cortiz e Ruam Oliveira
O STF julga caso que pode mudar a atuação das redes sociais no Brasil, iniciado por ofensas a uma professora no Orkut.A professora Aliandra Vieira processou o Google por não remover comunidade ofensiva, vencendo em instâncias inferiores.O julgamento debate a responsabilidade das plataformas sob o Marco Civil da Internet, especialmente sobre moderação de conteúdo.
Resumo da notícia
O STF julga caso que pode mudar a atuação das redes sociais no Brasil, iniciado por ofensas a uma professora no Orkut.A professora Aliandra Vieira processou o Google por não remover comunidade ofensiva, vencendo em instâncias inferiores.O julgamento debate a responsabilidade das plataformas sob o Marco Civil da Internet, especialmente sobre moderação de conteúdo.Resumo da notícia
Risco de privacidade: fiquei surpreso com tudo que o ChatGPT sabe sobre mim
Risco de privacidade: fiquei surpreso com tudo que o ChatGPT sabe sobre mim
https://www.uol.com.br/tilt/colunas/diogo-cortiz/2024/10/30/risco-de-privacidade-fiquei-surpreso-com-tudo-que-o-chatgpt-sabe-sobre-mim.htm#/ Diogo CortizEstava esperando um texto genérico, mas fiquei realmente surpreso e assustado logo com o primeiro resultado.
O ChatGPT trouxe coisas específicas de assuntos que tenho interesse e montou um perfil com o qual eu me identifico.
Em alguns momentos, a resposta trouxe informações explícitas de nossas interações, mas o surpreendente é que a ferramenta também inferiu traços de personalidade a partir do meu padrão de uso da ferramenta.
Por exemplo, dizer que eu sou curioso e futurista não é algo tão difícil, até porque criatividade, futurismo e design especulativo são temas recorrentes nas minhas conversas com o chatbot.
Porém, ele inferiu traços de personalidade a partir de um tipo específico de uso que eu faço da ferramenta: melhorar as transições entre os parágrafos nos textos que eu escrevo.
Sim, se tem um uso que eu faço frequente da ferramenta é analisar como posso deixar meus textos mais fluídos. Em vez de pedir para o chatbot mudar meu conteúdo, eu peço para dar uma nota de zero a dez para a fluidez do texto, apontar os parágrafos com alguma deficiência e sugerir alternativas.
A partir do que a ferramenta aponta, eu verifico se faz sentido e reescrevo a partir dos insights oferecidos. Inclusive, essa prática tem me ajudado a escrever melhor.
Agora, vamos ver o que o ChatGPT disse sobre mim. Alguns parágrafos mais pessoais eu omiti, então aqui está uma versão resumida:
"Seus traços de personalidade, a partir do que pude observar, parecem se alinhar bem com alguns perfis específicos. Aqui estão alguns dos traços que mais se destacam:
Analítico e Estruturado: Você tem um forte traço analítico, com uma preferência por estrutura e clareza em seus projetos, seja ao desenvolver um plano de ensino em nível avançado ou ao buscar melhorias em transições textuais. Esse traço sugere que você valoriza lógica e organização em tudo o que faz.
Curioso e Futurista: Seu interesse por design especulativo, futurismo e IA mostra uma mente curiosa e aberta a novas ideias, especialmente aquelas que desafiam o presente e exploram possibilidades ainda não realizadas. Você gosta de explorar o "e se?", o que indica um espírito inventivo e inovador.
Comunicativo e Orientado ao Detalhe: Seu foco em melhorar a comunicação, tanto no ensino quanto em textos de forma geral, mostra que você aprecia uma apresentação bem-feita e considera os detalhes importantes para um entendimento profundo.
Colaborativo e Focado em Impacto: Ao criar materiais educacionais e planejar conteúdos inovadores, você demonstra um desejo de compartilhar conhecimento e colaborar para o crescimento de outros. Esse traço sugere uma pessoa altruísta, que vê valor em contribuir e impactar positivamente os outros, especialmente em contextos educacionais.
Esses traços mostram uma personalidade rica, com equilíbrio entre criatividade, estrutura e autenticidade. Se tiver outros aspectos que você gostaria de explorar, posso ajudar a expandir o perfil!"
Se você me conhece, pode dizer se concorda ou não?
Eu, que sou eu, concordei.
Apesar de não termos certeza de que ele possa inferir corretamente traços de personalidade, não deixa de ser surpreendente o tanto de informação que ele está armazenando e usando sobre nós.
A OpenAI conseguiu fazer o que as redes sociais tentam há muito ao coletar nossos dados: inferir com mais precisão nossas preferências e desejos.
Enquanto as grandes plataformas tentam isso por meio da coleta absurda de dados e sinais que deixamos no mundo digital, os chatbots conseguem isso de uma maneira muito mais efetiva por ser um conteúdo autodeclarado. É muito mais sensível, e é o sonho de toda e qualquer empresa da economia digital.
O mecanismo de atenção vem ativado por padrão, então você pode limpar ou desabilitá-lo em Configurações -> Personalização, dentro do ChatGPT.
Mas, além desse mecanismo, é importante lembrar que manter o histórico de suas conversas na ferramenta, dependendo do tipo de uso que você faz, pode ser problemático, principalmente se cair nas mão erradas.
Privacidade é um assunto que se tornou ainda mais sensível na era da IA. Lembro que um tempo atrás contei em uma das minhas colunas que a maioria dos serviços de IAs de companhias podem vender seus dados.
Este não é necessariamente o caso do ChatGPT, mas é bom estarmos atentos para as consequências desses novos comportamentos dos usuários.
OpiniãoTexto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.
** Este texto não reflete, necessariamente, a opinião do UOL.
O ChatGPT trouxe coisas específicas de assuntos que tenho interesse e montou um perfil com o qual eu me identifico.
Em alguns momentos, a resposta trouxe informações explícitas de nossas interações, mas o surpreendente é que a ferramenta também inferiu traços de personalidade a partir do meu padrão de uso da ferramenta.
Por exemplo, dizer que eu sou curioso e futurista não é algo tão difícil, até porque criatividade, futurismo e design especulativo são temas recorrentes nas minhas conversas com o chatbot.
Porém, ele inferiu traços de personalidade a partir de um tipo específico de uso que eu faço da ferramenta: melhorar as transições entre os parágrafos nos textos que eu escrevo.
Sim, se tem um uso que eu faço frequente da ferramenta é analisar como posso deixar meus textos mais fluídos. Em vez de pedir para o chatbot mudar meu conteúdo, eu peço para dar uma nota de zero a dez para a fluidez do texto, apontar os parágrafos com alguma deficiência e sugerir alternativas.
A partir do que a ferramenta aponta, eu verifico se faz sentido e reescrevo a partir dos insights oferecidos. Inclusive, essa prática tem me ajudado a escrever melhor.
Agora, vamos ver o que o ChatGPT disse sobre mim. Alguns parágrafos mais pessoais eu omiti, então aqui está uma versão resumida:
"Seus traços de personalidade, a partir do que pude observar, parecem se alinhar bem com alguns perfis específicos. Aqui estão alguns dos traços que mais se destacam:
Analítico e Estruturado: Você tem um forte traço analítico, com uma preferência por estrutura e clareza em seus projetos, seja ao desenvolver um plano de ensino em nível avançado ou ao buscar melhorias em transições textuais. Esse traço sugere que você valoriza lógica e organização em tudo o que faz.
Curioso e Futurista: Seu interesse por design especulativo, futurismo e IA mostra uma mente curiosa e aberta a novas ideias, especialmente aquelas que desafiam o presente e exploram possibilidades ainda não realizadas. Você gosta de explorar o "e se?", o que indica um espírito inventivo e inovador.
Comunicativo e Orientado ao Detalhe: Seu foco em melhorar a comunicação, tanto no ensino quanto em textos de forma geral, mostra que você aprecia uma apresentação bem-feita e considera os detalhes importantes para um entendimento profundo.
Colaborativo e Focado em Impacto: Ao criar materiais educacionais e planejar conteúdos inovadores, você demonstra um desejo de compartilhar conhecimento e colaborar para o crescimento de outros. Esse traço sugere uma pessoa altruísta, que vê valor em contribuir e impactar positivamente os outros, especialmente em contextos educacionais.
Esses traços mostram uma personalidade rica, com equilíbrio entre criatividade, estrutura e autenticidade. Se tiver outros aspectos que você gostaria de explorar, posso ajudar a expandir o perfil!"
Se você me conhece, pode dizer se concorda ou não?
Eu, que sou eu, concordei.
Apesar de não termos certeza de que ele possa inferir corretamente traços de personalidade, não deixa de ser surpreendente o tanto de informação que ele está armazenando e usando sobre nós.
A OpenAI conseguiu fazer o que as redes sociais tentam há muito ao coletar nossos dados: inferir com mais precisão nossas preferências e desejos.
Enquanto as grandes plataformas tentam isso por meio da coleta absurda de dados e sinais que deixamos no mundo digital, os chatbots conseguem isso de uma maneira muito mais efetiva por ser um conteúdo autodeclarado. É muito mais sensível, e é o sonho de toda e qualquer empresa da economia digital.
O mecanismo de atenção vem ativado por padrão, então você pode limpar ou desabilitá-lo em Configurações -> Personalização, dentro do ChatGPT.
Mas, além desse mecanismo, é importante lembrar que manter o histórico de suas conversas na ferramenta, dependendo do tipo de uso que você faz, pode ser problemático, principalmente se cair nas mão erradas.
Privacidade é um assunto que se tornou ainda mais sensível na era da IA. Lembro que um tempo atrás contei em uma das minhas colunas que a maioria dos serviços de IAs de companhias podem vender seus dados.
Este não é necessariamente o caso do ChatGPT, mas é bom estarmos atentos para as consequências desses novos comportamentos dos usuários.
OpiniãoTexto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.
** Este texto não reflete, necessariamente, a opinião do UOL.
Reações e alucinações no uso do ChatGPT na visão de um bibliotecário
Reações e alucinações no uso do ChatGPT na visão de um bibliotecário
https://biblioteconomiadigital.com.br/2023/12/reacoes-e-alucinacoes-no-uso-do-chatgpt-na-visao-de-um-bibliotecario.htmlJorge CativoA era da geração de informação por meio de IA trouxe consigo diversos avanços para alguns temerosos, para outros revolucionários, entre os quais o uso de IA generativa e em particular o ChatGPT é o destaque aqui. Profissões e profissionais passaram a usar e opinar sobre seus benefícios e diferentes objeções em relação sempre buscando ou se beneficiar e relatar experiências dignas de um evento em Congresso, seja preso a fatores como regulação, éticos e direitos autorais. Sabemos que esta exploração, embora promissora, não está isenta de desafios e controvérsias, especialmente quando se trata de entender e contextualizar as capacidades e limitações da IA em ambientes informacionais e uma profissão em especial: a dos bibliotecários.Com o crescente uso de sistemas baseados em IA, como o ChatGPT, surgem questionamentos pertinentes sobre a precisão, confiabilidade e ética na geração e manipulação da informação. Tudo sobre o viés de impressões e o próprio uso do nosso GPT! Se para alguns profissionais, existe a capacidade inovadora do ChatGPT de processar e sintetizar grandes quantidades de dados, oferecendo suporte em tarefas como catalogação, pesquisa e até mesmo na criação de conteúdo. Para outros, existe a necessidade de combater e enfrentar algumas situaões. É destaque que se enfatize, um fenômeno em particular: as “alucinações” da IA! “O gpt não funciona bem para catalogação, para estudos, para concursos e por ai vai! Sim! O sistema pode gerar respostas imprecisas ou factualmente incorretas, que devem levantar preocupações sobre a sua aplicabilidade prática e confiabilidade.É preciso contudo, algumas coisas para ambos os lados! Duas delas são sobre essa dualidade em que o ChatGPT pode ser uma ferramenta valiosa para bibliotecários, ao mesmo tempo em que aborda os desafios e as implicações éticas do seu uso. Afinal, equilibrar senso comum, ciência, inovação tecnológica, sempre buscando a e a integridade da informação, são elementos fundamentais da profissão bibliotecária. precisãox limites-chat-gpt (1)
Ao tentar obter respostas sobre processos técnicos ou tarefas aparentemente simples como, gerar um registro marc, elaborar uma ficha catalográfica, consultar títulos e apresentar números de ISBN ou vice versa, fazer recomendações de leitura ou quiçá, gerar um xml válido: tudo isso usando o ChatGPT, é preciso lembrar que existem diferenças entre versões pagas ou gratuitas e que ao não pagar, isso implica em algumas das primordiais limitações da maioria dos atuais dos modelos de linguagem: plugins, análise de dados, customizações, número de tojens de entrada e saída e por ai vai! Outro fator importante é que estes modelos conversacionais, embora treinados com vastos conjuntos de dados, incluindo textos de livros, artigos, sites, entre outros, não acessam bancos de dados externos em tempo real, (a menos que os 20 dólares mensais sejam pagos. Isso significa que, para tarefas como identificar o autor correto de um livro pelo ISBN em tempo real, dependeria exclusivamente do que foi aprendido durante o treinamento. Quem não paga para esse acesso pro – para quem já não o faz com algumas extensões do chrome que dão um plus adicional na versão free, não tem esse acesso em tempo real à intenet. Você precisariade necessariamente de plugins específicos e sobretudo um prompt com exemplos, contexto e toda uma estrutura com parâmetros que permitem sim, gerar uma ficha com sucesso, catalogar corretamente um título e obviamente, criar um registro marc21 válido! Entendam a coisa mais importante dessa publicação: a precisão das respostas do ChatGPT depende muito da clareza e especificidade das perguntas feitas. Não pensem que perguntas diretas com frases interrogativas de uma linha trarão registros, fichas, identificadores a partir dos dados de um GPT 3.5 gratuito. Não criem relatos de cases usando perguntas interrogativas diretas de uma linha achando que isso será suficiente para classificar um livro a partir de um assunto pontual. Frases simples ou perguntas vagas tendem a levar a respostas menos precisas ainda.Isso é particularmente verdadeiro em questões complexas, como a indexação, catalogação ou a criaçã de um registro, mencionados aqui, que requerem informações muito mais detalhadas e específicas, somada a parâmetros e elementos de descrição da instrução. Por fim, a IA pode fornecer uma base para qualquer trabalho técnico ou não: como criar conteúdos para redes sociais, estudar usuários e até ser assistente virtual que tira dúvidas sobre produtos e serviços, mas a intervenção humana ainda é necessária para garantir a precisão e adequação dos dados, sobretudo quando é necessário no mínimo alguns princípios recomendados pela própria OpenAI para elaboração de instruções.
O termo “alucinar” foi eleito em novembro como palavra do ano pelo dicionário Cambridge. No contexto da IA, refere-se a situações em que o modelo gera informações falsas, imprecisas ou sem lógica. Isso geralmente ocorre devido a limitações nas fontes de dados usadas para treinar a IA, prompts que possibilitem uma interpretação errônea ou ambígua das entradas fornecidas ao sistema e claro, a questão de usar uma versão gratuita que não permite instalar plugins, analisar dados complexos e estender o número de tokeens de entrada e de saída a partir de uma instrução mais elaborada.Os modelos de IA, como o ChatGPT, não “inventam” informações com intenção ou consciência. Eles respondem com base em padrões e associações aprendidas durante o treinamento. Se a IA produz uma informação falsa, não é porque está deliberadamente “inventando”, mas porque está replicando padrões de dados que foram apresentados, o que pode incluir imprecisões presentes em pedidos e nos próprios dados de treinamento.O fato é que o conceito de “alucinar” em sistemas de Inteligência Artificial (IA) como o ChatGPT gerou um espectro variado de reações entre profissionais, pesquisadores e alguns dos usuários que temem o uso da IA. Estas reações refletem diferentes níveis de compreensão, confiança ou habilidade nese o uso:
Uma parte significativa de usuários e profissionais, especialmente aqueles que priorizam a precisão absoluta da informação, são críticos e eventualmente temem serem substituídos pela IA, mostram ceticismo ou até mesmo rejeição por n fatores! Já fizemos um conteúdo sobre com mais de 50 razões que passam por mitos, medos e receios quando o assunto é rejeição de uma IA. A maioria deles, argumentam que, devido ao risco de “alucinações”, ou seja, a geração de informações imprecisas ou falsas, a IA não pode ser confiável. Este grupo tende a evitar o uso de IA em suas práticas profissionais ou acadêmicas, preocupados com a integridade e a veracidade das informações. Falam frequentemente sobre direito autoral, regulação, temem por uma substituição imediata e acabam por não ter aproximações com estudos e pesquisas acerca do tema.
Outro grupo, que reconhece tanto as limitações quanto as potencialidades da IA, opta por utilizá-la como uma ferramenta auxiliar. Eles entendem que, embora a IA possa ser uma poderosa aliada na análise e síntese de grandes volumes de dados, suas respostas precisam ser validadas por meio de verificações cruzadas com fontes confiáveis. Este grupo vê a IA como um ponto de partida ou um complemento ao trabalho humano, mas não como uma autoridade final.
Existe também um grupo que defende o uso estratégico da IA, focando na importância da formulação de prompts bem elaborados. Eles argumentam que muitas das “alucinações” da IA podem ser mitigadas ou até evitadas com perguntas claras, específicas e contextualmente apropriadas. Este grupo tende a ter uma compreensão mais aprofundada de como os modelos de IA funcionam e, portanto, são mais hábeis em extrair informações precisas e úteis.
Alguns usuários e especialistas veem as “alucinações” da IA como parte natural de seu desenvolvimento e evolução. Eles reconhecem que, assim como qualquer tecnologia emergente, a IA tem suas imperfeições, mas acreditam que o feedback contínuo e o uso prático podem conduzir a melhorias significativas. Este grupo costuma advogar pela colaboração entre desenvolvedores de IA e seus usuários, visando aprimorar a tecnologia para aplicações cada vez mais precisas e confiáveis.
A popularidade e o uso crescente do ChatGPT sugerem que seus benefícios superam as chamadas “alucinações” ou limitações. Em 2023, a ampla adoção da ferramenta reflete seu valor prático em diversas aplicações. Seus benefícios incluem a capacidade de processar e sintetizar grandes volumes de informação, gerar conteúdo criativo, auxiliar na aprendizagem e pesquisa, e realizar tarefas de automação de linguagem.No entanto, é crucial reconhecer e abordar seus desafios. Lembrar que a qualidade das respostas depende do treinamento e das fontes de dados. O contexto e a capacidade de discernir nuances complexas ainda são limitados se o prompt também for! Essas questões destacam a importância de dominar certas competências e aprender sobre o uso da IA. Usuários e pesquisadores precisam estar cientes de que existem limitações e a utilização deve ser feita como uma ferramenta auxiliar e não como uma fonte 100% confiável e infalível, sobretudo de dados factuais e das tais perguntas diretas com o intúito de produzir as tais alucinações.
Resumindo, o ChatGPT e seus colegas da IA generativa conversacional, oferecem possibilidades significativas, mas é essencial usá-las com compreensão de suas limitações, em conjunto com o julgamento humano que sempre virá para quem não cria instruções bem fundamentadas e não faz qualquer verificação adicional das respostas geradas.Acerca das reações e o conceito de alucinação, representam diferentes níveis de confiança, compreensão e habilidade no manuseio da própria Inteligência Artificial. Enquanto alguns se afastam devido às preocupações com a precisão, outros buscam formas de integrá-la em suas práticas, aproveitando seus benefícios e contornando suas limitações. A chave parece residir na compreensão de que a IA, no estágio atual, é uma ferramenta e não um substituto para o julgamento humano. Reconhecer e respeitar as capacidades e limites da IA é crucial para seu uso efetivo, com a ética e com as regulações que já começaram na Eutopa e logo logo chegam em legislações brasileiras independentemente da sua perspectiva ser x ou y.Entao, ao refletirmos sobre o impacto da Inteligência Artificial na sua vida, especialmente no que diz respeito ao fenômeno das “alucinações” da IA e as diversas reações, é evidente que estamos navegando em um território novo e em constante evolução. As reações variadas – desde a rejeição total até a adoção estratégica – refletem a complexidade e a multiplicidade de desafios e oportunidades que a IA apresenta: eu prefiro ver por esse lado! O ponto chave para um uso eficaz e responsável da IA reside no equilíbrio. É crucial reconhecer as limitações da IA, compreendendo que, no seu estado atual, ela serve melhor como uma ferramenta auxiliar, e não como uma fonte autônoma e infalível de verdade. A validação ou não, o aprendizado sobre a engenharia de prompts, a formulação cuidadosa de instruções a partir e a compreensão aprofundada do funcionamento da IA são essenciais para extrair seu potncial máximo, minimizando sempre riscos de desinformação.Como disse, devemos encarar as “alucinações” da IA não apenas como falhas, mas também como oportunidades para aprendizado e melhoria. Cada interação com a IA, seja ela bem-sucedida ou não, oferece insights valiosos para aprimorar os modelos e torná-los mais confiáveis e úteis.Por fim, a integração da IA em nossas práticas diárias – seja na biblioteconomia, na educação, na indústria ou em qualquer outro campo – deve ser feita com um senso de responsabilidade ética. Isso implica não apenas no uso prudente da tecnologia, mas também na conscientização e educação dos usuários sobre suas capacidades e limites.À medida que avançamos nesta era da informação dominada pela IA, quer você queira, quer não, é nosso dever coletivo abordar essa tecnologia não como um fim em si mesma, mas como um meio poderoso e dinâmico para enriquecer e expandir nosso entendimento e capacidades humanas, sobretudo se estamos diante de profissionais da informação por aqui. Espero que essa abordagem sirva para maximizar os benefícios da IA enquanto mitigamos seus riscos, gerando confiança e busca por competências digitais neste novo horizonte onde humanos e tecnologia se cruzam e precisam lembrar que o dicionário Cambridge, ao eleger o “alucinar” como palavra do ano, também mencionou que que os seres humanos ainda precisam trazer suas habilidades e seu pensamento crítico também para o uso dessas ferramentas! Esse texto faz parte dos bits da biblio, nossa newsletter semanal sobre biblio, IA e marketing digital!
Jorge Cativo
Precisão e limites entre prompts e respostas a partir de dados
Ao tentar obter respostas sobre processos técnicos ou tarefas aparentemente simples como, gerar um registro marc, elaborar uma ficha catalográfica, consultar títulos e apresentar números de ISBN ou vice versa, fazer recomendações de leitura ou quiçá, gerar um xml válido: tudo isso usando o ChatGPT, é preciso lembrar que existem diferenças entre versões pagas ou gratuitas e que ao não pagar, isso implica em algumas das primordiais limitações da maioria dos atuais dos modelos de linguagem: plugins, análise de dados, customizações, número de tojens de entrada e saída e por ai vai! Outro fator importante é que estes modelos conversacionais, embora treinados com vastos conjuntos de dados, incluindo textos de livros, artigos, sites, entre outros, não acessam bancos de dados externos em tempo real, (a menos que os 20 dólares mensais sejam pagos. Isso significa que, para tarefas como identificar o autor correto de um livro pelo ISBN em tempo real, dependeria exclusivamente do que foi aprendido durante o treinamento. Quem não paga para esse acesso pro – para quem já não o faz com algumas extensões do chrome que dão um plus adicional na versão free, não tem esse acesso em tempo real à intenet. Você precisariade necessariamente de plugins específicos e sobretudo um prompt com exemplos, contexto e toda uma estrutura com parâmetros que permitem sim, gerar uma ficha com sucesso, catalogar corretamente um título e obviamente, criar um registro marc21 válido! Entendam a coisa mais importante dessa publicação: a precisão das respostas do ChatGPT depende muito da clareza e especificidade das perguntas feitas. Não pensem que perguntas diretas com frases interrogativas de uma linha trarão registros, fichas, identificadores a partir dos dados de um GPT 3.5 gratuito. Não criem relatos de cases usando perguntas interrogativas diretas de uma linha achando que isso será suficiente para classificar um livro a partir de um assunto pontual. Frases simples ou perguntas vagas tendem a levar a respostas menos precisas ainda.Isso é particularmente verdadeiro em questões complexas, como a indexação, catalogação ou a criaçã de um registro, mencionados aqui, que requerem informações muito mais detalhadas e específicas, somada a parâmetros e elementos de descrição da instrução. Por fim, a IA pode fornecer uma base para qualquer trabalho técnico ou não: como criar conteúdos para redes sociais, estudar usuários e até ser assistente virtual que tira dúvidas sobre produtos e serviços, mas a intervenção humana ainda é necessária para garantir a precisão e adequação dos dados, sobretudo quando é necessário no mínimo alguns princípios recomendados pela própria OpenAI para elaboração de instruções.Precisão e limites entre prompts e respostas a partir de dados
Alucinação em Inteligência Artificial e as muitas interpretações
O termo “alucinar” foi eleito em novembro como palavra do ano pelo dicionário Cambridge. No contexto da IA, refere-se a situações em que o modelo gera informações falsas, imprecisas ou sem lógica. Isso geralmente ocorre devido a limitações nas fontes de dados usadas para treinar a IA, prompts que possibilitem uma interpretação errônea ou ambígua das entradas fornecidas ao sistema e claro, a questão de usar uma versão gratuita que não permite instalar plugins, analisar dados complexos e estender o número de tokeens de entrada e de saída a partir de uma instrução mais elaborada.Os modelos de IA, como o ChatGPT, não “inventam” informações com intenção ou consciência. Eles respondem com base em padrões e associações aprendidas durante o treinamento. Se a IA produz uma informação falsa, não é porque está deliberadamente “inventando”, mas porque está replicando padrões de dados que foram apresentados, o que pode incluir imprecisões presentes em pedidos e nos próprios dados de treinamento.O fato é que o conceito de “alucinar” em sistemas de Inteligência Artificial (IA) como o ChatGPT gerou um espectro variado de reações entre profissionais, pesquisadores e alguns dos usuários que temem o uso da IA. Estas reações refletem diferentes níveis de compreensão, confiança ou habilidade nese o uso: Alucinação em Inteligência Artificial e as muitas interpretações
Ceticismo e rejeição
Uma parte significativa de usuários e profissionais, especialmente aqueles que priorizam a precisão absoluta da informação, são críticos e eventualmente temem serem substituídos pela IA, mostram ceticismo ou até mesmo rejeição por n fatores! Já fizemos um conteúdo sobre com mais de 50 razões que passam por mitos, medos e receios quando o assunto é rejeição de uma IA. A maioria deles, argumentam que, devido ao risco de “alucinações”, ou seja, a geração de informações imprecisas ou falsas, a IA não pode ser confiável. Este grupo tende a evitar o uso de IA em suas práticas profissionais ou acadêmicas, preocupados com a integridade e a veracidade das informações. Falam frequentemente sobre direito autoral, regulação, temem por uma substituição imediata e acabam por não ter aproximações com estudos e pesquisas acerca do tema. Ceticismo e rejeição
Uso com verificação
Outro grupo, que reconhece tanto as limitações quanto as potencialidades da IA, opta por utilizá-la como uma ferramenta auxiliar. Eles entendem que, embora a IA possa ser uma poderosa aliada na análise e síntese de grandes volumes de dados, suas respostas precisam ser validadas por meio de verificações cruzadas com fontes confiáveis. Este grupo vê a IA como um ponto de partida ou um complemento ao trabalho humano, mas não como uma autoridade final.Uso com verificação
Uso estratégico e consciente
Existe também um grupo que defende o uso estratégico da IA, focando na importância da formulação de prompts bem elaborados. Eles argumentam que muitas das “alucinações” da IA podem ser mitigadas ou até evitadas com perguntas claras, específicas e contextualmente apropriadas. Este grupo tende a ter uma compreensão mais aprofundada de como os modelos de IA funcionam e, portanto, são mais hábeis em extrair informações precisas e úteis.Uso estratégico e consciente
Defensores da uso contínuo com mediação humana
Alguns usuários e especialistas veem as “alucinações” da IA como parte natural de seu desenvolvimento e evolução. Eles reconhecem que, assim como qualquer tecnologia emergente, a IA tem suas imperfeições, mas acreditam que o feedback contínuo e o uso prático podem conduzir a melhorias significativas. Este grupo costuma advogar pela colaboração entre desenvolvedores de IA e seus usuários, visando aprimorar a tecnologia para aplicações cada vez mais precisas e confiáveis.Defensores da uso contínuo com mediação humana
Benefícios versus desafios no uso do ChatGPT
A popularidade e o uso crescente do ChatGPT sugerem que seus benefícios superam as chamadas “alucinações” ou limitações. Em 2023, a ampla adoção da ferramenta reflete seu valor prático em diversas aplicações. Seus benefícios incluem a capacidade de processar e sintetizar grandes volumes de informação, gerar conteúdo criativo, auxiliar na aprendizagem e pesquisa, e realizar tarefas de automação de linguagem.No entanto, é crucial reconhecer e abordar seus desafios. Lembrar que a qualidade das respostas depende do treinamento e das fontes de dados. O contexto e a capacidade de discernir nuances complexas ainda são limitados se o prompt também for! Essas questões destacam a importância de dominar certas competências e aprender sobre o uso da IA. Usuários e pesquisadores precisam estar cientes de que existem limitações e a utilização deve ser feita como uma ferramenta auxiliar e não como uma fonte 100% confiável e infalível, sobretudo de dados factuais e das tais perguntas diretas com o intúito de produzir as tais alucinações. Benefícios versus desafios no uso do ChatGPT
Resumindo…
Resumindo, o ChatGPT e seus colegas da IA generativa conversacional, oferecem possibilidades significativas, mas é essencial usá-las com compreensão de suas limitações, em conjunto com o julgamento humano que sempre virá para quem não cria instruções bem fundamentadas e não faz qualquer verificação adicional das respostas geradas.Acerca das reações e o conceito de alucinação, representam diferentes níveis de confiança, compreensão e habilidade no manuseio da própria Inteligência Artificial. Enquanto alguns se afastam devido às preocupações com a precisão, outros buscam formas de integrá-la em suas práticas, aproveitando seus benefícios e contornando suas limitações. A chave parece residir na compreensão de que a IA, no estágio atual, é uma ferramenta e não um substituto para o julgamento humano. Reconhecer e respeitar as capacidades e limites da IA é crucial para seu uso efetivo, com a ética e com as regulações que já começaram na Eutopa e logo logo chegam em legislações brasileiras independentemente da sua perspectiva ser x ou y.Entao, ao refletirmos sobre o impacto da Inteligência Artificial na sua vida, especialmente no que diz respeito ao fenômeno das “alucinações” da IA e as diversas reações, é evidente que estamos navegando em um território novo e em constante evolução. As reações variadas – desde a rejeição total até a adoção estratégica – refletem a complexidade e a multiplicidade de desafios e oportunidades que a IA apresenta: eu prefiro ver por esse lado! O ponto chave para um uso eficaz e responsável da IA reside no equilíbrio. É crucial reconhecer as limitações da IA, compreendendo que, no seu estado atual, ela serve melhor como uma ferramenta auxiliar, e não como uma fonte autônoma e infalível de verdade. A validação ou não, o aprendizado sobre a engenharia de prompts, a formulação cuidadosa de instruções a partir e a compreensão aprofundada do funcionamento da IA são essenciais para extrair seu potncial máximo, minimizando sempre riscos de desinformação.Como disse, devemos encarar as “alucinações” da IA não apenas como falhas, mas também como oportunidades para aprendizado e melhoria. Cada interação com a IA, seja ela bem-sucedida ou não, oferece insights valiosos para aprimorar os modelos e torná-los mais confiáveis e úteis.Por fim, a integração da IA em nossas práticas diárias – seja na biblioteconomia, na educação, na indústria ou em qualquer outro campo – deve ser feita com um senso de responsabilidade ética. Isso implica não apenas no uso prudente da tecnologia, mas também na conscientização e educação dos usuários sobre suas capacidades e limites.À medida que avançamos nesta era da informação dominada pela IA, quer você queira, quer não, é nosso dever coletivo abordar essa tecnologia não como um fim em si mesma, mas como um meio poderoso e dinâmico para enriquecer e expandir nosso entendimento e capacidades humanas, sobretudo se estamos diante de profissionais da informação por aqui. Espero que essa abordagem sirva para maximizar os benefícios da IA enquanto mitigamos seus riscos, gerando confiança e busca por competências digitais neste novo horizonte onde humanos e tecnologia se cruzam e precisam lembrar que o dicionário Cambridge, ao eleger o “alucinar” como palavra do ano, também mencionou que que os seres humanos ainda precisam trazer suas habilidades e seu pensamento crítico também para o uso dessas ferramentas! Esse texto faz parte dos bits da biblio, nossa newsletter semanal sobre biblio, IA e marketing digital! Resumindo…
Jorge Cativo
Como identificar se um texto foi escrito por IA
Como identificar se um texto foi escrito por IA
https://forbes.com.br/forbes-tech/2024/11/como-identificar-se-um-texto-foi-escrito-por-inteligencia-artificial/?ampLuiz Gustavo Pacete
Os textos desenvolvidos por inteligência artificial generativa se proliferaram na internet. Desde artigos, matérias, redações ate material técnico, são cada vez mais comuns. No entanto, existem alguns padrões e vícios de linguagem que podem ser identificados. O próprio ChatGPT sinaliza quais são as dicas e critérios para conseguir identificar uma escrita feita por IA generativa.
Abaixo algumas dicas para identificar o padrão de textos desenvolvidos por inteligência artificial generativa:
#1
Uso excessivo de clichês e expressões comuns.Estrutura sintática simples e repetitiva.Falta de variação vocabular.Uso inadequado de idiomas e gírias.Erros de concordância verbal e pronominal.
#2
Informações vagas e genéricas.Falta de exemplos específicos e detalhes.Uso excessivo de generalizações.Ausência de opiniões pessoais e subjetividade.Repetição de ideias sem desenvolvimento.
#3
Estilo de escrita formal e impessoal.Falta de humor e ironia.Uso excessivo de jargões técnicos.Ausência de metáforas e figuras de linguagem.Texto excessivamente longo e detalhado.
#4
Falta de conexão lógica entre parágrafos.Uso inadequado de transições.Repetição de informações.Ausência de conclusão clara.Uso excessivo de referências a fontes externas.
#5
Presença de erros de digitação ou ortografia.Uso de linguagem padronizada.Ausência de emoção e tom.Respostas evasivas ou genéricas.Falta de autoria ou credibilidade.
A IA generativa desenvolve textos com padrões que podem ser facilmente identificados
Os textos desenvolvidos por inteligência artificial generativa se proliferaram na internet. Desde artigos, matérias, redações ate material técnico, são cada vez mais comuns. No entanto, existem alguns padrões e vícios de linguagem que podem ser identificados. O próprio ChatGPT sinaliza quais são as dicas e critérios para conseguir identificar uma escrita feita por IA generativa.A IA generativa desenvolve textos com padrões que podem ser facilmente identificados
Abaixo algumas dicas para identificar o padrão de textos desenvolvidos por inteligência artificial generativa:
#1
Padrões Linguísticos
Uso excessivo de clichês e expressões comuns.Estrutura sintática simples e repetitiva.Falta de variação vocabular.Uso inadequado de idiomas e gírias.Erros de concordância verbal e pronominal.Padrões Linguísticos
#2
Padrões de Conteúdo
Informações vagas e genéricas.Falta de exemplos específicos e detalhes.Uso excessivo de generalizações.Ausência de opiniões pessoais e subjetividade.Repetição de ideias sem desenvolvimento.Padrões de Conteúdo
#3
Padrões Estilísticos
Estilo de escrita formal e impessoal.Falta de humor e ironia.Uso excessivo de jargões técnicos.Ausência de metáforas e figuras de linguagem.Texto excessivamente longo e detalhado.Padrões Estilísticos
#4
Padrões de Coerência
Falta de conexão lógica entre parágrafos.Uso inadequado de transições.Repetição de informações.Ausência de conclusão clara.Uso excessivo de referências a fontes externas.Padrões de Coerência
#5
Outros Indicadores
Presença de erros de digitação ou ortografia.Uso de linguagem padronizada.Ausência de emoção e tom.Respostas evasivas ou genéricas.Falta de autoria ou credibilidade.Outros Indicadores
Sua rede social não é sua
Sua rede social não é sua
"O movimento Small Web fomenta a ideia de trazer de volta para a internet o ímpeto de compartilhamento de ideias, de forma semelhante ao que acontecia no princípio da tecnologia, sem depender absurdamente de redes sociais grandes e centralizadoras. Criar um Website para você mesmo, ou para algo que você tenha interesse, pode ser útil de diversas formas, e neste vídeo, vamos passar pelos ótimos motivos para você ter o seu próprio local na internet e te mostrar como você pode criar o seu próprio site fazer isso gastando muito pouco ou mesmo de graça".O texto acima, retirado do canal do Dionatan Simioni, representa o objetivo deste site: criar um espaço pessoal na internet para guardar minhas playlists de música, os filmes que eu tenho visto, fotos (ainda em construção), os livros que eu recomendo (e posso disponibilizar, caso alguém tenha interesse), meus materiais de estudo...O site foi criado com a ferramenta Google Sites, que possibilita uma edição simples, tão fácil como um editor de texto, e a publicação do site de forma gratuita (o domínio próprio tem um pequeno custo anual). Não é um blog, ou seja, não é possível interagir diretamente no site. Mas deixo meu email e o link do grupo do whatsapp no rodapé para quem quiser trocar uma ideia e receber as novidades que eu publico.Espero que gostem!