No real time for big posts yet (haha not even 5 minutes). Google is rolling out AI mode (https://labs.google/) in Search to everyone in the US, the richest market.
What matters here is this. Cost per query is the most important metric. If Google is shipping it to everyone, that means the projected cost per query has dropped so much that sane monetization via ads is possible. Most likely inference on CPUs. Or, well, some insanely cheap TPUs are about to show up.
Video available in the original Telegram post.
Original (RU)
Пока нет особо времени на большие посты (хаха даже 5 минут). Google катит
AI mode (https://labs.google/)
в поиске на всех в сша, самом богатом рынке.
Тут важно понимать следующее. Стоимость запроса самая важная метрика. Если Google выпускает на всех, значит прогнозная стоимость запроса снизилась настолько, что возможна адекватная монетизация с помощью рекламы. Скорее всего инференс на CPU. Ну либо слишком дешевые TPU на подходе.