What’s new in Gemma 2

TRIS WARKENTIN:
Konnichiwa, Tóquio. [COREANO] Desenvolvedores coreanos. Veja esta energia. É eletrizante estar aqui
entre a vanguarda da IA, grandes mestres do Kaggle,
especialistas em desenvolvedores do Google e construtores apaixonados. É realmente inspirador. Obrigado. Vocês são os arquitetos
do futuro. [DISCURSO NÃO INGLÊS]
por se juntar a nós. Meu nome é Tris
Warkentin e sou Diretor de
Gerenciamento de Produtos do Google DeepMind. Quando tenho a honra de
falar num lugar como este para tantos de vocês, estou perfeitamente
consciente da barreira linguística entre nós. No entanto, ao mesmo tempo,
estou cheio de otimismo, porque sei que
a IA que estamos a construir está prestes a
quebrar essas barreiras, permitindo-nos
colaborar e inovar juntos de forma ainda mais eficaz. É realmente um momento muito emocionante. Lidero o produto da
família de modelos Gemma da DeepMind e também trabalho no avanço da
pesquisa de IA em direção à AGI, duas áreas que estão profundamente
interligadas, porque é a sua inovação e a sua
criatividade como desenvolvedores que realmente impulsionam a IA.

Na DeepMind,
sonhamos com um mundo onde a IA revele soluções para
alguns dos maiores desafios da humanidade . Há anos que expandimos as fronteiras
do que é possível. AlphaFold revolucionou o
enovelamento de proteínas. AlphaZero dominou xadrez, Go
e Shogi, e agora, Gemini. Gemini é nosso
projeto de IA mais ambicioso até agora, uma IA multimodal fluente em
texto, imagens, áudio e código. Isso raciocina. Isso entende. Ele cria. É um vislumbre
de um mundo onde os limites da nossa
engenhosidade como humanos são amplificados pelo poder
de máquinas inteligentes, mas a força bruta não é suficiente. O verdadeiro progresso está
em compartilhar com você o acesso a essas
ferramentas transformadoras, e essa é a gênese da Gemma. Construída com base na mesma
pesquisa e tecnologia de ponta dos modelos Gemini, a
Gemma é uma família de modelos leves e abertos
, meticulosamente elaborados para seu uso. Queremos colocar esse poder
nas mãos dos desenvolvedores, para que vocês possam construir grandes coisas.

Lançamos o Gemma
há pouco menos de oito meses e ficamos absolutamente
impressionados com a resposta. Temos uma comunidade vibrante que
gostamos de chamar de Gemmaverse. Ele surgiu em torno
dos modelos Gemma, criando também um incrível ecossistema
de variantes de modelos e ferramentas . Na verdade, já existem mais de
40.000 variantes de Gemma publicadas no Hugging Face. Essa adoção entusiástica
nos impulsionou a acelerar o desenvolvimento
e, há apenas alguns meses , lançamos o Gemma 2. O Gemma 2 vem em três
tamanhos práticos – 2 bilhões, 9 bilhões e
27 bilhões de parâmetros – cada um projetado com uma
finalidade específica. em mente. O modelo de 27 bilhões de parâmetros
é uma potência. Pouco depois de seu lançamento, ele
invadiu a tabela de classificação da arena chatbot do LLM , superando
modelos com mais de duas vezes o seu tamanho. Mas o que é verdadeiramente
notável para mim é o desempenho que
conseguimos com modelos ainda mais pequenos. Nosso modelo de dois bilhões de parâmetros
na família Gemma 2 na verdade supera o GPD 3.5 no LMSYS, um
modelo que é muitas vezes maior que o pequeno modelo 2B.

Imagine as
possibilidades disso, acessando esse nível de
desempenho offline, a qualquer hora e em qualquer lugar. Este é o futuro da IA ​​– modelos de IA poderosos, portáteis e
pessoais. E para aqueles que procuram
um equilíbrio entre potência e eficiência, o nosso
modelo de nove mil milhões de parâmetros provou ser incrivelmente
popular e de alto desempenho. Este desempenho está
disponível para todos. No coração
da equipe Gemma está o compromisso de construir
modelos incríveis para pessoas reais, para você. Projetamos esses modelos para
caber no hardware ao qual os desenvolvedores já têm acesso. Você não precisa de
clusters gigantes de GPUs ou TPUs para aproveitar o poder do Gemma. E, o que é crucial, recusamo-nos terminantemente
a sacrificar a qualidade. Nosso objetivo é oferecer
desempenho de ponta em um pacote que esteja disponível em
qualquer lugar e que permita que você construa coisas incríveis,
mas Gemma é muito mais do que apenas benchmarks. Trata-se também de
IA responsável, priorizando segurança e
acessibilidade, e é por isso que lançamos recentemente o
ShieldGemma, nosso conjunto de classificadores de segurança, e
também o GemmaScope, uma ferramenta de
interpretabilidade de modelo sem precedentes.

Gemma tem apenas
oito meses e estamos incrivelmente inspirados pelo que
a comunidade Gemma já conquistou, como esta história de
um grupo de desenvolvedores na Índia. Podemos reproduzir o vídeo, por favor? [REPRODUÇÃO DE VÍDEO] [APLAUSOS] TRIS WARKENTIN: Obrigado. Que história incrível. Vimos um
trabalho notável, especialmente na adaptação do Gemma para
idiomas e no enfrentamento de desafios específicos da região. Você publicou modelos para
idiomas sub-representados, como árabe, ucraniano,
zulu e muitos outros. Além das
línguas nacionais, também estamos a assistir a esforços para preservar
e promover dialectos regionais. Na Coreia, por
exemplo, um desenvolvedor está aproveitando o Gemma para construir um
tradutor de dialeto, focado especificamente no dialeto de Jeju. A ilha de Jeju, uma bela
ilha vulcânica na costa sul da Coreia,
possui um dialeto linguístico único do coreano padrão. Este é exatamente o tipo de
progresso que alimenta a nossa paixão. Queremos ver um mundo
onde todos tenham acesso a IA útil, não
importa onde estejam ou quais dispositivos
possuam, e isso nos leva ao
anúncio muito emocionante de hoje.

Acreditamos que todo idioma
merece um LLM poderoso e é por isso que hoje estamos
lançando o modelo Gemma 2 2B especificamente para o
idioma japonês. Em nossos testes, este modelo superou o
GPT 3.5 nas classificações de preferência humana dos testadores japoneses. Confira isso. Obrigado. [APLAUSOS] Para mostrar o quão rápido o Gemma é
com capacidade multilíngue, criamos uma demonstração do
Gemma 2 para o Japão. Escolhemos o onigiri como
tema, porque ouvi dos meus colegas que
é uma comida japonesa querida e icônica . Veja a rapidez com que Gemma
gera um conto sobre onigiri, tudo isso enquanto
funciona off-line no dispositivo. Estou muito animado em anunciar
que também estamos lançando nossas receitas de ajuste,
capacitando você a criar modelos Gemma para
seu idioma, sua cultura. E para acelerar essa visão,
estamos anunciando uma competição Kaggle de US$ 150.000. Construa um modelo Gemma
para o seu idioma, compartilhe seu conhecimento
com o mundo e concorra a prêmios. Vamos construir
juntos um ecossistema de IA verdadeiramente global. Este
espírito colaborativo já está levando a
resultados inovadores.

Já vimos
inovações incríveis com Gemma , como o trabalho de SakanaAI
na otimização de preferências descobertas, chamado DiscoPOP. Na verdade, eles estão
usando o próprio Gemma para descobrir maneiras inteiramente
novas e mais eficazes de treinar
modelos de linguagem para melhor se alinharem às preferências humanas. É como fazer com que
a IA aprenda a aprender melhor, o que
está levando a resultados impressionantes. Também estamos vendo
pesquisadores acadêmicos fazendo coisas incríveis
no espaço do modelo aberto, como o trabalho de
Okazaki Sensei, Yokota Sensei e suas equipes no
Institute of Science Tokyo. Eles
trabalharam muito na adaptação de modelos para
uso japonês, o que mostra por que os modelos abertos
são tão importantes para a igualdade de acesso à IA.

Por meio de iniciativas como a
TPU Research Cloud e o programa Gemma Academic, pesquisadores
como os da Science Tokyo estão explorando novas fronteiras,
aproveitando nossos recursos computacionais e infraestrutura.
Relações de colaboração como estas constituem uma base sólida para uma
cooperação contínua e esperamos trabalhar ainda mais estreitamente
com os nossos parceiros no futuro. Suas conquistas continuam a
ultrapassar os limites do que é possível, e é
uma verdadeira honra para nós fazer parte de sua
jornada, Okazaki Sensei. [DISCURSO NÃO INGLÊS]. O futuro está em suas mãos. Vamos construí-lo juntos. [APLAUSOS] E agora estou muito animado
para receber um convidado surpresa no palco. Por favor, dê as boas-vindas a Sundar
Pichai, CEO do Google. [APLAUSOS] Como você está? SUNDAR PICHAI: Olá, Sundar. Que bom ver você. TRIS WARKENTIN: Que bom ver você. SUNDAR PICHAI: Olá a todos.

É muito bom estar aqui. Que comunidade incrível. Ouvi dizer que esse evento estava
acontecendo enquanto eu estava em Tóquio. Eu só queria passar
por aqui e dizer olá. Como você está se sentindo em relação
ao que viu até agora? Excitado? [APLAUSOS] Sim, bom, bom, ótimo. Bem, vamos contar com a sua
ajuda para tornar tudo melhor. Estamos muito entusiasmados com a nossa
família Gemma de modelos abertos. Eles são construídos usando a mesma
pesquisa e tecnologia usada para criar nossos modelos Gemini. Eles são otimizados para serem executados em
velocidades incríveis em dispositivos móveis e desktops sem
computação pesada, e nosso objetivo é definir o
padrão de desempenho em relação ao tamanho para muitas
tarefas, com nossos modelos menores desbloqueando muitos
aplicativos interessantes no dispositivo.

Acredito que os modelos abertos
serão um importante motor de
progresso, e ajustá-los às línguas do mundo
torna-os ainda mais úteis. É por isso que estamos focados em
permitir que você ajuste o Gemma para outros idiomas além
do modelo japonês Gemma 2 que anunciamos hoje. Expandir o acesso à
informação para as pessoas no seu idioma preferido
é uma forma importante de tornar a IA mais
útil para todos. Não poderíamos fazer isso sem a nossa
incrível comunidade de desenvolvedores. Então, obrigado novamente por ter vindo. Estou ansioso para ver
os incríveis modelos Gemma que você construirá e compartilhará
no Kaggle ou em outro lugar. Então, obrigado novamente. Super animado com
o que você está fazendo. Eu agradeço. Tudo bem, Tris, volte. [APLAUSOS] TRIS WARKENTIN: Enquanto
você está aqui, Sundar, não pude resistir
à oportunidade de ver se você estaria disposto
a tirar uma selfie com todos esses incríveis
desenvolvedores japoneses e coreanos.

[APLAUSOS] Tudo bem, esperem. Eu tenho meu Pixel 9 Pro. Perfeito. Obrigado. SUNDAR PICHAI: Tudo bem. TRIS WARKENTIN: Muito obrigado
por se juntar a nós, Sundar. Este é um pontapé inicial emocionante
para o Gemma Developer Day de hoje. Todos, por favor, aproveitem
o resto das palestras e obrigado. [APLAUSOS] [MÚSICA TOCANDO].

Texto inspirado em publicação no YouTube.

Quer Saber Muito Mais? Venha para a MIND21 Educação