Thought about it a bit. Still think this whole tower of tech is needed as the only way to shake up search. Because if you have the better model in terms of user experience of conversation and language understanding, you can just shove a web index underneath + your model and boom, you get a new Google.
The current phase of OpenAI and competitors is beautiful, directly it’s enterprise. But everyone understands where the money is.
Probably one of the few moments in 20 years when you can wobble the search market. The trick is even that, in theory, you can kill Yandex or any other local search engine. Only regulation will help, but most likely it’ll just push the whole industry’s progress back by 1–2 years (time to catch up).
My timeline so I can check later (good exercise for any manager: write down what you think and then check):
- by the end of the year there’ll be releases of this whole thing in clients on all platforms (real-time interaction with ChatGPT)
- next year, natively in every phone
- by the end of next year, Apple headphones will have their own Jarvis
- in two years I’m betting an OpenAI search engine will have some noticeable share (it’ll be called something like some assistant)
Most important problems to solve:
- building your own index
- very fast iterations on improving the model in local markets
- moving inference to CPU
- caching everywhere
I even sort of believe today’s release is more important than an LLM like ChatGPT 3.5. Because in theory you don’t need to have this huge data archive that gets trained for a hundred years in GPU-hours. All hail deep learning. Oh man, how much more we’ll do through data and curve fitting.
Original (RU)
Чуть чуть подумал. Все еще считаю, что вся эта башня технологий нужна как единственный способ пошатнуть поисковые технологии. Ведь имея лучшую модель по опыту использования общения и понимания языков ты можешь поместить вниз индекс из веба и свою модель и ты получишь новый Google.
Текущая фаза OpenAI и конкурентов прекрасна, напрямую это enterprise. Но все прекрасно понимают где деньги.
Пожалуй это один из немногих за 20 лет моментов, когда можно пошатать поисковый рынок. Тут фишка даже в том, что в теории можно убить Яндекс или любой другой локальный поисковик. Помогут только регуляции, но скорее всего отодвинут прогресс целой индустрии на 1-2 года (время чтобы догнать).
Мой таймлайн чтобы потом проверить(хорошее упражнение для любого менеджера это записать что думаешь и потом проверить):
- в конце года будут релизы всего этого дела в клиентах на всех платформах(риал тайм взаимодействия с ChatGPT)
- в следующем году в каждом телефоне нативно
- в конце следующего года в наушниках Apple будет свой Jarvis
- за два года ставлю на то, что OpenAI поисковик будет иметь какую-то заметную долю (называться будет как-то как ассистент какой-то)
Самые важные задачи для решения:
- построение своего индекса
- очень быстрые итерации по улучшению модели на локальных рынках
- переход на инференс на CPU
- повсеместное кэширование
Я даже в какой-то степени верю, что сегодняшний релиз важнее чем LLM типа ChatGPT 3.5. Потому что в теории тебе не нужно иметь этот огромный архив данных который обучается сотню лет в GPU часах. All hail deep learning. Ой как много всего мы еще сделаем через данные и подгон кривых.