Inteligência Artificial open source: o ponto de vista da Red Hat

Resumo: a Red Hat vê os critérios mínimos para a IA open source como pesos de modelo sob licença open source combinados com componentes do software open source.

Há mais de três décadas, a Red Hat viu o potencial do desenvolvimento e das licenças open source na criação de softwares melhores para impulsionar a inovação de TI. Trinta milhões de linhas de código depois, o Linux não apenas se tornou o software open source de maior sucesso, mas também o mais bem-sucedido até hoje. Nosso compromisso com os princípios do open source continuam em nosso modelo de negócios e também em nossa cultura corporativa. Acreditamos que esses conceitos podem ter o mesmo impacto na inteligência artificial (IA) se aplicados da maneira correta. No entanto, não há um consenso no mundo da tecnologia quanto a qual seria essa maneira.

A IA, especialmente os Large Language Models (LLMs) por trás da IA generativa (gen AI), não pode ser analisada da mesma forma que o software open source. Ao contrário do software, os modelos de IA consistem principalmente em pesos de modelo, isto é, parâmetros numéricos que determinam como um modelo processa entradas e as conexões que ele faz entre vários pontos de dados. Os pesos de modelos treinados são o resultado de um extenso processo de treinamento envolvendo grandes quantidades de dados cuidadosamente preparados, misturados e processados. 

Embora os pesos de modelo não sejam softwares, em alguns aspectos eles têm uma função semelhante ao código. É fácil perceber que os dados são iguais ou análogos ao código-fonte do modelo. Em termos open source, o código-fonte é normalmente definido como a melhor forma de fazer modificações no software. Os dados de treinamento por si só não se encaixam nessa função por serem tipicamente grandes. Isso sem mencionar o complicado processo de pré-treinamento, resultando em uma conexão tênue e indireta de qualquer item de dados de treinamento com os pesos treinados e o comportamento resultante do modelo. 

A maioria das melhorias em modelos de IA que estão sendo realizadas na comunidade não envolve o acesso ou a manipulação dos dados de treinamento originais. Em vez disso, ela é o resultado de modificações nos pesos ou de um processo de ajuste fino que também pode servir para ajustar o desempenho do modelo. A liberdade para fazer essas melhorias no modelo implica no lançamento dos pesos com todas as permissões que os usuários recebem em licenças open source.

Visão da Red Hat sobre a IA open source

A Red Hat vê o limite mínimo para a IA open source como pesos de modelo com licença open source combinados com componentes de software open source. Esse é o ponto de partida desse tipo de IA, não o destino final. Encorajamos a comunidade open source, as autoridades reguladoras e o setor a continuarem se esforçando para ter mais transparência e alinhamento com os princípios de desenvolvimento open source ao treinar e ajustar modelos de IA. 

É assim que Red Hat acredita que podemos usar a IA open source na prática, em um ecossistema de software open source. Essa não é uma tentativa de criar uma definição formal, como a Open Source AI Definition (OSAID) da Open Source Initiative (OSI). Queremos somente expressar nossa opinião sobre o que torna a IA open source viável e acessível para o maior número de comunidades, organizações e fornecedores. 

Tiramos essa idealização do papel com o nosso trabalho em comunidades open source, com destaque para o projeto InstructLab, liderado pela Red Hat, e nosso trabalho com a IBM Research, relacionado à família de modelos com licença open source Granite. O InstructLab reduz bastante os obstáculos que impedem pessoas que não são cientistas de dados de contribuir em modelos de IA. Experts de diversos setores podem adicionar suas habilidades e conhecimentos ao InstructLab, tanto para uso interno quanto para impulsionar um modelo de IA open source compartilhado e amplamente acessível para comunidades upstream. 

A família de modelos Granite 3.0 abrange uma grande variedade de casos de uso de IA, como geração de código, processamento de linguagem natural e obtenção de insights de vastos conjuntos de dados, tudo com as permissões de uma licença open source. Ajudamos a IBM Research a trazer uma família de modelos de Granite Code para o mundo open source e continuamos a oferecer suporte a essa família de modelos, tanto do ponto de vista open source quanto como parte da nossa oferta Red Hat AI.

A repercussão causada pelos anúncios recentes da DeepSeek mostram como a inovação open source pode impactar a IA não apenas no nível do modelo. Há preocupações claras em relação à abordagem da DeepSeek porque a licença do modelo não esclarece como ela foi produzida, o que reforça ainda mais a necessidade de transparência. Dito isso, esse transtorno confirma nossa visão sobre o futuro da IA: open source, com foco em modelos menores, otimizados e abertos que podem ser personalizados para casos de uso de dados empresariais específicos em qualquer ambiente de nuvem híbrida.

Expansão da IA open source para além dos modelos

A tecnologia open source e os princípios de desenvolvimento são a base das nossas ofertas de IA e do portfólio do Red Hat AI. O Red Hat OpenShift AI tem como base containers compatíveis com Kubernetes, KubeFlow e Open Container Initiative (OCI), além de outras tecnologias open source nativas em nuvem. O Red Hat Enterprise Linux AI (RHEL AI) incorpora a família de LLMs Granite com licença open source da IBM e o projeto open source InstructLab.

Mas o trabalho da Red Hat no espaço de IA open source vai muito além disso, abrangendo as ferramentas e plataformas necessárias para realmente consumir e usar a IA de maneira produtiva. Participamos de um número crescente de projetos e comunidades upstream e iniciamos muitos outros por conta própria, entre eles:

• RamaLama, um projeto open source que visa tornar o gerenciamento local e a disponibilização de modelos de IA muito menos trabalhosos e complexos;
• TrustyAI, um kit de ferramentas open source para criar fluxos de trabalho de IA mais responsável;
• Climatik, um projeto com o objetivo de fazer a IA ser mais sustentável consumindo menos energia;
• Podman AI Lab, um kit de ferramentas para desenvolvedores com foco em facilitar a experimentação com LLMs open source;

Nosso comunicado recente sobre o Neural Magic fortalece nossa visão de IA. Assim, as organizações podem alinhar modelos de IA menores e otimizados, como aqueles com licença open source, com seus dados, onde quer que estejam na nuvem híbrida. As organizações de TI podem usar o servidor de inferência vLLM para tomar decisões e produzir esses modelos, ajudando a criar um stack de IA baseado em tecnologias transparentes e com suporte.

Para a Red Hat, a nuvem híbrida é essencial para a IA open source. Ela oferece a flexibilidade necessária para escolher o melhor ambiente para cada carga de trabalho de IA. Isso otimiza o desempenho, o custo, a escalabilidade e os requisitos de segurança. Nossas plataformas, metas e organização auxiliam nesse esforço. Estamos ansiosos para colaborar com parceiros do setor, nossos clientes e a comunidade open source em geral, à medida que continuamos a impulsionar a inovação em IA open source.

Há um grande potencial de ampliação dessa colaboração aberta no espaço da IA. Prevemos um futuro de treinamento de modelos e transparência ao trabalhar com eles. Seja na próxima semana ou no próximo mês (ou antes, dada a rapidez com que a IA evolui), continuaremos apoiando e incorporando os esforços para deixar o mundo da IA cada vez mais democrático e aberto.