O Google I/O introduziu um assistente de IA que pode ver e ouvir o mundo, enquanto a OpenAI colocou sua versão de um Dela-como chatbot em um iPhone. Na próxima semana, a Microsoft hospedará o Build, onde certamente terá alguma versão do Copilot ou Cortana que entende tabelas dinâmicas. Então, algumas semanas depois, a Apple realizará sua própria conferência de desenvolvedores e, se o burburinho servir de referência, também falará sobre inteligência artificial. (Não está claro se o Siri será mencionado.)
A IA está aqui! Não é mais conceitual. É aceitar empregos, criar alguns novos e ajudar milhões de estudantes a evitarem fazer os trabalhos de casa. De acordo com a maioria das grandes empresas de tecnologia que investem em IA, nós parecem estar no início de uma daquelas raras mudanças monumentais na tecnologia. Pense na Revolução Industrial ou na criação da Internet ou do computador pessoal. Todo o Vale do Silício – das Big Techs – está focado em pegar grandes modelos de linguagem e outras formas de inteligência artificial e transferi-los dos laptops dos pesquisadores para os telefones e computadores das pessoas comuns. Idealmente, eles ganharão muito dinheiro no processo.
Mas não posso me importar com isso porque a Meta AI pensa que tenho barba.
Quero deixar bem claro: sou uma mulher cis e não tenho barba. Mas se eu digitar “mostre-me uma foto de Alex Cranz” na janela de prompt, o Meta AI inevitavelmente retornará imagens de homens muito bonitos, de cabelos escuros e barbas. Eu sou apenas algumas dessas coisas!
Meta AI não é o único a lutar com as minúcias de A beiraé o cabeçalho. ChatGPT me disse ontem que não trabalho A beira. O Gemini do Google não sabia quem eu era (justo), mas depois de me dizer que Nilay Patel era o fundador do A beira, então pediu desculpas e se corrigiu, dizendo que não. (Garanto que ele estava.)
A IA continua estragando tudo porque esses computadores são estúpidos. Extraordinários em suas habilidades e surpreendentes em sua estupidez. Não posso ficar animado com a próxima virada na revolução da IA, porque essa virada é um lugar onde os computadores não conseguem manter consistentemente a precisão até mesmo sobre coisas menores.
Quero dizer, eles até erraram durante a grande palestra sobre IA do Google no I/O. Em um comercial do novo mecanismo de busca com IA do Google, alguém perguntou como consertar uma câmera de filme emperrada e sugeriu que “abrissem a porta traseira e removessem o filme com cuidado”. Essa é a maneira mais fácil de destruir todas as fotos que você já tirou.
A difícil relação de uma IA com a verdade é chamada de “alucinação”. Em termos extremamente simples: estas máquinas são excelentes a descobrir padrões de informação, mas, na sua tentativa de extrapolar e criar, ocasionalmente erram. Eles efetivamente “alucinam” uma nova realidade, e essa nova realidade muitas vezes está errada. É um problema complicado, e todas as pessoas que trabalham com IA no momento estão cientes disso.
Um ex-pesquisador do Google afirmou que isso poderia ser corrigido no próximo ano (embora lamentasse o resultado), e a Microsoft tem uma ferramenta para alguns de seus usuários que deveria ajudar a detectá-los. A chefe de pesquisa do Google, Liz Reid, disse A beira também está ciente do desafio. “Há um equilíbrio entre criatividade e factualidade” em qualquer modelo de linguagem, disse ela ao meu colega David Pierce. “Nós realmente vamos distorcer isso para o lado da factualidade.”
Mas observe como Reid disse que havia um equilíbrio? Isso ocorre porque muitos pesquisadores de IA não pensam que as alucinações pode ser resolvido. Um estudo da Universidade Nacional de Singapura sugeriu que as alucinações são um resultado inevitável de todos os grandes modelos de linguagem. Assim como nenhuma pessoa está 100% certa o tempo todo, esses computadores também não.
E é provavelmente por isso que a maioria dos principais intervenientes neste campo – aqueles com recursos reais e incentivos financeiros para nos fazer abraçar a IA – pensam que não se deve preocupar com isso. Durante a palestra IO do Google, ele adicionou, em pequena fonte cinza, a frase “verifique a precisão das respostas” na tela abaixo de quase todas as novas ferramentas de IA que exibia – um lembrete útil de que suas ferramentas não são confiáveis, mas também não. não acho que seja um problema. ChatGPT opera de forma semelhante. Em fonte minúscula logo abaixo da janela de prompt, diz: “ChatGPT pode cometer erros. Verifique informações importantes.
Isso não é uma isenção de responsabilidade que você deseja ver em relação a ferramentas que deveriam mudar todas as nossas vidas em um futuro muito próximo! E as pessoas que fabricam essas ferramentas não parecem se importar muito em resolver o problema além de um pequeno aviso.
Sam Altman, o CEO da OpenAI que foi brevemente demitido por priorizar o lucro em vez da segurança, deu um passo além e disse que qualquer pessoa que tivesse problemas com a precisão da IA era ingênua. “Se você fizer a coisa ingênua e disser: ‘Nunca diga nada sobre o qual não tenha 100% de certeza’, poderá fazer com que todos façam isso. Mas não terá a magia que as pessoas tanto gostam”, disse ele a uma multidão na conferência Dreamforce da Salesforce no ano passado.
Essa ideia de que existe uma espécie de molho mágico não quantificável na IA que nos permitirá perdoar sua tênue relação com a realidade é muito levantada por pessoas ansiosas para descartar preocupações com precisão. Google, OpenAI, Microsoft e muitos outros desenvolvedores e pesquisadores de IA descartaram a alucinação como um pequeno aborrecimento que deveria ser perdoado porque estão no caminho de criar seres digitais que podem tornar nossas vidas mais fáceis.
Mas peço desculpas a Sam e a todos os outros incentivados financeiramente para me deixar entusiasmado com a IA. Não venho aos computadores pela magia imprecisa da consciência humana. Venho procurá-los porque são muito precisos quando os humanos não o são. Não preciso que meu computador seja meu amigo; Preciso disso para acertar meu gênero quando peço e me ajudar a não expor acidentalmente o filme ao consertar uma câmera quebrada. Os advogados, presumo, gostariam que a jurisprudência fosse correta.
EU entender de onde vêm Sam Altman e outros evangelistas da IA. Existe a possibilidade, em algum futuro distante, de criar uma consciência digital real a partir de uns e zeros. Neste momento, o desenvolvimento da inteligência artificial está a avançar a uma velocidade surpreendente que envergonha muitas revoluções tecnológicas anteriores. Há uma verdadeira magia em ação no Vale do Silício neste momento.
Mas a IA acha que tenho barba. Ela não consegue descobrir consistentemente as tarefas mais simples e, ainda assim, está sendo imposta a nós com a expectativa de que celebremos a incrível mediocridade dos serviços que essas IAs fornecem. Embora eu certamente possa me maravilhar com as inovações tecnológicas que estão acontecendo, gostaria que meus computadores não sacrificassem a precisão apenas para ter um avatar digital com quem conversar. Essa não é uma troca justa – é apenas interessante.
theverge