Observations from the last few weeks.
1/ there are two camps on how to reach AGI — we’ve got rsi (recursive self improvement) and world models. The first is represented by Anthropic & OpenAI. The second by Google DeepMind. And because the DeepMind leader doesn’t believe OpenAI is pulling it off, you supposedly need to do both, and that’s why everything is so slow. Basically a corporate delay. But whose bet will hit is unclear to literally anyone.
2/ people are returning to China — the ones working at top places in the US. Main idea: they believe they’ll be able, like the US back in the day, to pull off the “Chinese dream,” namely get valuation multiples for their companies that are several times higher. In other words we’re in for Chinese dominance in AI. I’d say that’s more than likely. Given the amount of effort and faith. And super talents.
3/ a crisis is brewing in math. Many PhDs are, to put it mildly, going to get devalued. And I think there’ll be a big restructuring of the whole science world in general. Because AI will be able to literally discover and solve 50% of current problems. And there still aren’t any “totally new” meanings in sight. And I think the problem of finding something new is the same as the problem of writing text that resonates. Because in relativity theory what matters is not so much the theory as the idea. After that you can, so to speak, run the rest of the way somehow.
4/ hiring is hell. A regular researcher at Anthropic (and other top labs) gets 10m+ over 4 years. Life is pain.
5/ a lot of companies have barely realized that scaling depends on their ability to train their own models. Harvey, Cursor (couldn’t and gave up to do it somewhere else) and others
6/ turns out quantum computing is developing really fast and there’s a lot of interesting stuff there especially in the area of quantum neural nets (lolkek), should I write about it?
What’s your news?
Original (RU)
Наблюдения последних недель.
1/ есть два лагеря о том, как достичь AGI - это у нас rsi (recursive self improvement) и world models. Первый представляют Anthropic & OpenAI. Второй Google DeepMind. И из-за того что лидер дипмайнда не верит в то, что опенаи получается надо и то и другое делать и поэтому так все медленно. Короче корпоративное опоздание. Но чья ставка сыграет не ясно никому.
2/ в Китай возвращаются те, кто работают в топ местах в сша. Основная идея: они верят что смогут так же как в свое время сша осуществить «китайскую мечту», а именно получить мультипликаторы к оценке их компаний в разы больше. Другими словами нас ждет китайское господство в аи. Я бы сказал, что это более чем вероятно. Учитывая количество усилий и веры. И супер талантов.
3/ в математике назревает кризис. Многие PhD будут мягко говоря обесценены. И я считаю произойдет в целом большая реструктуризация мира наука. Ибо аи сможет буквально открывать и решать 50% текущих задач. И все еще «совсем новых» смыслов пока не видать. И я думаю, что проблема с поиском нового такая же как проблема с написанием резонирующего текста. Потому что в теории относительности важна не сколько теория, сколько идея. Дальше так сказать можно добежать уже как-то.
4/ найм это ад. Рядовой рисерчер в Anthropic (и других топ лабах) получает 10м+ за 4 года. Жизнь боль.
5/ многие компании с трудом осознали, что масштабирование зависит от их возможности тренировать свои модели. Harvey, Cursor (не смогли и сдались чтобы делать в другом месте) и другие
6/ оказалось квантовые вычисления очень быстро развиваются и там много всего интересного особенно в области квантовых нейросетей (лолкек), писать про это?
Какие у вас новости?