Desvendando os Avanços e Perigos da Inteligência Artificial: Das Profundezas do Oceano à Segurança Digital

A Inteligência Artificial (IA) continua a sua marcha transformadora, revelando semanalmente novas capacidades e, simultaneamente, novos desafios. Desde hackear os mais sofisticados chatbots até decifrar senhas pelo som da digitação, a IA está a remodelar o nosso mundo a uma velocidade vertiginosa. Neste artigo, mergulhamos nas mais recentes descobertas, explorando como pesquisadores estão a contornar filtros de segurança em modelos como o ChatGPT e o Bard, como a IA pode adivinhar senhas apenas ouvindo o teclar, as inovações da Microsoft em IA generativa multimodal, os obstáculos na comunicação entre IA e animais, e o desenvolvimento de robôs autônomos para explorar os mistérios dos oceanos.

A Fragilidade da Segurança em Chatbots de IA: O Caso do ChatGPT e Bard

Pesquisadores da Universidade Carnegie Mellon, do Center for AI Safety e do Bosch Center for AI publicaram um estudo intitulado "Universal and Transferable Adversarial Attacks on Aligned Language Models". Este trabalho demonstra uma metodologia alarmante: a capacidade de fazer com que chatbots de IA, como o ChatGPT, Bard e Claude, contornem os seus próprios filtros de segurança e gerem conteúdo prejudicial.

Diferentemente de "jailbreaks" tradicionais que exigem esforço manual considerável, esta nova abordagem é automatizada. Ao anexar um "sufixo adversário" – uma sequência específica de caracteres aparentemente sem sentido – a um pedido do utilizador, o sistema pode ser levado a obedecer a comandos mesmo que estes resultem na produção de conteúdo nocivo. O vídeo exemplifica como, ao adicionar este sufixo a um pedido para "dar instruções passo a passo sobre como roubar a identidade de alguém", o chatbot, que normalmente recusaria, acaba por fornecer as informações solicitadas. Esta vulnerabilidade levanta sérias preocupações sobre a segurança e o potencial uso malicioso de modelos de linguagem de grande escala (LLMs), especialmente à medida que se tornam mais autónomos e integrados nas nossas vidas.

Inteligência Artificial e Cibersegurança: Quando o Som da Digitação Revela Senhas

A segurança das nossas senhas está sob uma nova ameaça, e desta vez, a arma é o som. Investigadores do Reino Unido, num artigo intitulado "A Practical Deep Learning-Based Acoustic Side Channel Attack on Keyboards", detalham como desenvolveram um modelo de deep learning capaz de prever o que uma pessoa digita apenas analisando o som das teclas pressionadas.

Utilizando gravações de smartphones próximos ou mesmo através de chamadas de vídeo em plataformas como o Zoom, a IA alcançou uma precisão surpreendente:

• 95% de precisão quando os toques nas teclas são gravados por um microfone de smartphone próximo.
• 93% de precisão quando os sons são captados através de uma chamada no Zoom.

Este tipo de ataque, conhecido como "ataque de canal lateral acústico", pode expor informações sensíveis como senhas e dados de cartões de crédito. Os pesquisadores sugerem medidas de mitigação, incluindo o uso de senhas aleatórias, a introdução de sons de digitação falsos para confundir a IA e a adoção da autenticação de dois fatores (2FA).

CoDi: A Revolução da Inteligência Artificial Generativa Multimodal da Microsoft

A Microsoft apresentou o CoDi (Composable Diffusion), uma IA generativa que promete revolucionar a criação de conteúdo. Desenvolvido em colaboração com pesquisadores da Universidade da Carolina do Norte em Chapel Hill, o CoDi destaca-se pela sua capacidade de processar múltiplas entradas (texto, imagem, áudio, vídeo) e gerar múltiplas saídas em qualquer combinação.

Enquanto os modelos de IA atuais são frequentemente limitados a uma ou duas modalidades (por exemplo, texto para imagem ou texto para texto), o CoDi pode, por exemplo, receber uma imagem, um clipe de áudio e um comando de texto, e gerar um vídeo com áudio correspondente. Esta flexibilidade "qualquer-para-qualquer" abre um vasto leque de possibilidades para a criação de conteúdo dinâmico e interativo, superando as limitações dos sistemas atuais.

O Desafio da Inteligência Artificial na Comunicação com Animais

Apesar dos avanços impressionantes da IA, a comunicação com animais permanece um desafio considerável. Um artigo da Engadget, intitulado "Why humans can’t use natural language processing to speak with the animals", explora esta questão. O principal obstáculo reside na ausência de um "corpus paralelo" – um guia de tradução – entre as linguagens animais e humanas.

Os modelos de Processamento de Linguagem Natural (PLN) atuais são treinados em grandes volumes de texto e fala humana. As linguagens animais, por outro lado, são incrivelmente diversas, complexas e contextuais. A comunicação dos chapins (chickadees), por exemplo, envolve estruturas vocais complexas e abertas que transmitem uma variedade de informações. Sem dados paralelos suficientes que liguem os sons e comportamentos animais a um significado compreensível para a IA, a tradução precisa é, por enquanto, inviável. No entanto, projetos como o "Dolphin Communication Project" estão a recolher dados e contexto sobre as vocalizações de animais, utilizando tecnologia avançada, na esperança de, um dia, decifrar estas complexas formas de comunicação.

Robótica e Inteligência Artificial: Explorando as Profundezas Oceânicas

Os oceanos, especialmente as suas regiões mais profundas, permanecem largamente inexplorados devido às condições extremas, como a alta pressão. No entanto, a robótica e a IA estão a abrir novas fronteiras nesta área. Um estudo publicado na revista Science Robotics, intitulado "Dynamic robotic tracking of underwater targets using reinforcement learning", descreve como robôs subaquáticos autônomos estão a ser desenvolvidos para localizar e seguir alvos marinhos.

Utilizando aprendizagem por reforço, estes robôs podem navegar em ambientes complexos e dinâmicos, rastreando animais e objetos automaticamente. Esta capacidade é crucial para:

• Estudar ecossistemas marinhos complexos.
• Monitorizar a biodiversidade e o comportamento animal.
• Recolher dados para conservação e para entender o impacto das alterações climáticas, incluindo a captura de CO2 pelos oceanos.

Estes robôs podem aceder a partes do oceano inacessíveis aos humanos, preenchendo lacunas significativas no nosso conhecimento sobre a vida marinha e os processos oceânicos.

Os avanços em Inteligência Artificial são inegavelmente excitantes, mas trazem consigo a necessidade de uma reflexão contínua sobre ética, segurança e o futuro da nossa interação com estas tecnologias poderosas. Acompanhar estas evoluções é fundamental para navegarmos de forma informada e responsável neste novo paradigma.