Google Cloud прискорила AI Functions в AlloyDB і додала нові SQL-виклики до Gemini

Google Cloud 2 липня описала оновлення AlloyDB AI Functions, яке переносить частину роботи з Gemini ближче до даних у базі. Компанія повідомляє, що базові функції `ai.generate`, `ai.rank`, `ai.if` та `ai.forecast` стали загальнодоступними, а до набору додали `ai.summarize`, `ai.agg_summarize` і `ai.analyze_sentiment`. Для команд, які будують агентів або аналітичні інструменти навколо даних, це означає менше окремих ETL-ланцюгів і більше SQL-викликів, які можуть працювати прямо з неструктурованим текстом.

Менше викликів до моделей

Найсильніший практичний блок анонсу — прискорення AI functions. Google описує smart batching для `ai.if` і `ai.rank`, де повторюваний службовий промпт не передається моделі для кожного рядка окремо. У внутрішніх тестах компанія заявляє до 2 400 разів швидшу обробку, з прикладом 10 000 рядків на секунду, а optimized mode для `ai.if` має зменшувати частину зовнішніх викликів до LLM через локальний proxy model. Це не гарантія такого самого ефекту для кожної бази, але це важлива зміна архітектури: витрати й затримка переходять у рівень налаштування запиту, а не лишаються тільки ціною моделі.