Google je najavio niz ažuriranja za svoju Gemini AI platformu, pružajući razvojnicima unaprijeđene mogućnosti i pristup moćnijim alatima. Tehnološki div otvara prozor konteksta od dva miliona tokena za Gemini 1.5 Pro svim razvojnicima, uvodi mogućnosti izvršavanja koda te dodaje Gemma 2 u Google AI Studio.

Prozor konteksta od dva miliona tokena, koji je ranije bio dostupan putem liste čekanja, sada je dostupan svim razvojnicima koji koriste Gemini 1.5 Pro. Ovaj obimni prozor konteksta omogućava detaljniju analizu i generiranje sadržaja.

Da bi se adresirali potencijalni troškovi povezani s većim ulazima, Google je implementirao keširanje konteksta za Gemini 1.5 Pro i 1.5 Flash. Ova funkcija ima za cilj smanjivanje troškova za zadatke koji ponovno koriste tokene u više zahtjeva.

Mogućnosti izvršavanja koda

U cilju poboljšanja točnosti u matematičkim i zadacima s podacima, Google je omogućio izvršavanje koda za Gemini 1.5 Pro i 1.5 Flash. Ova značajka omogućava modelu generiranje i izvršavanje Python koda, učeći iterativno iz rezultata. Okruženje izvršavanja je sandboxed bez pristupa internetu i uključuje nekoliko numeričkih biblioteka. Razvojnici se naplaćuju na temelju izlaznih tokena iz modela.

"Ovo je naš prvi korak prema izvršavanju koda kao mogućnosti modela i dostupan je danas putem Gemini API-a i u Google AI Studiju pod 'naprednim postavkama'", kaže Google.

Integracija Gemma 2 i ulazak Gemini 1.5 Flash u produkciju

Da bi dalje demokratizirao razvoj AI, Google čini Gemma 2, svoj otvoreni model, dostupnim u Google AI Studiju za eksperimentiranje. Ovaj potez omogućava razvojnicima istraživanje i integraciju Gemma 2 uz modele Gemini.

Osim toga, Google je istaknuo nekoliko primjera korištenja Gemini 1.5 Flash u produkciji - prikazujući njegovu brzinu i pristupačnost:

- Envision: Aplikacija koja pruža opise okoline u stvarnom vremenu za ljude s niskim vidom.
- Plural: Platforma za automatsku analizu politika koja sažima kompleksne zakonodavne dokumente.
- Zapier: Korištenje mogućnosti video razumijevanja za automatizaciju u uređivanju videozapisa.
- Dot: AI koji koristi 1.5 Flash za zadatke kompresije informacija u sustavima dugoročne memorije.

Tvrtka je također najavila da je podešavanje teksta za Gemini 1.5 Flash sada u fazi red-teaminga i bit će postupno dostupno razvojnicima. Očekuje se potpuni pristup podešavanju Gemini 1.5 Flash putem Gemini API-a i Google AI Studija do sredine srpnja.

Razvojnici koji su zainteresirani za istraživanje ovih novih značajki mogu se pridružiti razgovoru na Googleovom forumu za razvojnike. Poduzeća se potiču da istraže Vertex AI, koji Google predstavlja kao najviše spremnu platformu za generativnu AI.