Na última terça-feira, uma nova funcionalidade do Grok, ferramenta de geração de imagens por inteligência artificial lançada por Elon Musk, chamou a atenção ao permitir a criação de imagens fictícias sem restrições de segurança rigorosas.
Entre as criações possíveis estão cenas como Donald Trump fumando maconha durante uma entrevista no programa de Joe Rogan, que podem ser postadas diretamente na plataforma X (anteriormente Twitter).
Leita também
Embora o Grok seja promovido como um produto da empresa de IA de Elon Musk, a tecnologia por trás dessa inovação é fruto da recém-lançada startup Black Forest Labs.
A parceria entre a xAI, empresa de Elon Musk, e a Black Forest Labs veio à tona quando a xAI anunciou a colaboração no desenvolvimento do gerador de imagens do Grok, utilizando o modelo FLUX.1.
Fundada em 1º de agosto, a Black Forest Labs é uma startup especializada em geração de imagens e vídeos por IA, e parece compartilhar a visão de Elon Musk de que o Grok deve operar como um “chatbot anti-woke”, sem as limitações rígidas de ferramentas como Dall-E, da OpenAI, ou Imagen, do Google.
A nova funcionalidade rapidamente gerou polêmica nas redes sociais, com uma enxurrada de imagens provocativas criadas pelos usuários.
Com sede na Alemanha, a Black Forest Labs emergiu recentemente do modo stealth, um período de operação discreta, após arrecadar US$ 31 milhões em uma rodada de financiamento inicial liderada pela Andreessen Horowitz.
Entre outros investidores notáveis estão Garry Tan, CEO da Y Combinator, e Brendan Iribe, ex-CEO da Oculus. A startup foi cofundada por Robin Rombach, Patrick Esser e Andreas Blattmann, ex-pesquisadores que anteriormente contribuíram para a criação dos modelos de difusão estável da Stability AI.
De acordo com o site Artificial Analysis, os modelos FLUX.1 da Black Forest Labs superam os geradores de imagens da Midjourney e da OpenAI em termos de qualidade, conforme avaliações de usuários em plataformas de testes de imagem.
A Black Forest Labs tem se comprometido a disponibilizar seus modelos de geração de imagens por IA para um público amplo, incluindo versões de código aberto nas plataformas Hugging Face e GitHub. Além disso, a empresa planeja lançar em breve um modelo de conversão de texto para vídeo.
Embora a Black Forest Labs não tenha respondido prontamente aos pedidos de comentário da TechCrunch, a startup afirmou em seu comunicado de lançamento que seu objetivo é “aumentar a confiança na segurança desses modelos”.
No entanto, o impacto imediato das imagens geradas por IA no X, na quarta-feira, sugere o contrário. Entre as criações, muitas, como a de um Pikachu segurando um rifle de assalto, desafiam as normas de plataformas como Google e OpenAI, que possuem restrições mais rígidas.
Além disso, há preocupações de que imagens protegidas por direitos autorais tenham sido utilizadas no treinamento dos modelos da Black Forest Labs.
