Внутри стартапа a16z, который решает проблему неоправданных расходов на ИИ в 400 миллиардов долларов

Granola — это блокнот для профессионалов, работающих в условиях непрерывных встреч. Получите первый месяц Granola бесплатно: https://www.granola.ai/?via=inside-startups В этом эпизоде я расскажу о закулисье Inference.net. Компания Inference, основанная Сэмом Хоганом Хеутмейкером, Ибрагимом Ахмедом и Амарджотом Сингхом, привлекла 11,8 млн долларов в рамках посевного финансирования от Multicoin Capital и a16z CSX, чтобы помочь компаниям создавать специализированные модели ИИ, которые быстрее, дешевле и лучше подходят для их продуктов. Внедрение ИИ ускоряется невероятными темпами, но по мере того, как все больше компаний создают продукты на основе ИИ, они обнаруживают, что масштабирование этих моделей может стать невероятно дорогим. Многие компании платят за рабочие нагрузки, которые на самом деле не требуют передовых технологий ИИ, цены на которые достигаются на переднем крае технологий, что создает возможности для нового поколения компаний, занимающихся инфраструктурой ИИ. Команда Inference считает, что существует лучший подход. Вместо того чтобы полностью полагаться на API сторонних разработчиков, они помогают компаниям разбивать большие базовые модели на более мелкие, специализированные модели, которые клиенты могут владеть, оптимизировать и развертывать самостоятельно. Они делают ставку на то, что компании не захотят вечно арендовать интеллектуальные ресурсы. По мере того как ИИ становится основной инфраструктурой, все больше предприятий захотят владеть моделями, лежащими в основе их продуктов. Это долгосрочное видение выходит далеко за рамки снижения затрат на вывод данных. Владея моделью, предприятия получают больший контроль над одной из важнейших частей своего технологического стека, не будучи полностью зависимыми от нескольких передовых поставщиков ИИ. В этом эпизоде: Почему Inference считает, что многие компании платят за рабочие нагрузки, не требующие передовых моделей, цены, сопоставимые с ценами на передовые технологии ИИ Как дистилляция моделей превращает большие базовые модели в более мелкие, специализированные модели, созданные для конкретных задач История создания Inference: от проектов с открытым исходным кодом до привлечения 11,8 млн долларов в рамках посевного финансирования Совещание по планированию продукта: команда разрабатывает новые инструменты мониторинга Ежедневные совещания команды: разработка, тестирование и выпуск новых функций Как Inference представляет свои продукты клиентам Почему команда считает, что мониторинг — это путь к обучению пользовательских моделей Советы Сэма Хогана основателям стартапов на одном из самых быстро развивающихся технологических рынков в истории Но если тезис Inference окажется верным, как быстро стартап на посевной стадии сможет влиться в один из самых конкурентных и финансируемых сегментов рынка ИИ? Ознакомьтесь с Inference: https://link.willphillips.co/ynJMEK Найдите работу в стартапах: https://link.willphillips.co/startup-jobs Подпишитесь на мою рассылку для основателей: https://link.willphillips.co/newsletter Давайте общаться: X: https://link.willphillips.co/Twitter LinkedIn: https://link.willphillips.co/LinkedIn Разделы эпизода: 00:00 Введение 1:58 Интервью с Сэмом Хоганом Хойтмейкером (основатель, генеральный директор) 3:40 Анализ Inference.Net 7:51 Granola, помощник по проведению совещаний на основе ИИ 8:54 Продуктовое совещание 12:40 Ежедневное совещание 13:36 Интервью с Ибрагимом Ахмедом (соучредитель, технический директор) 15:44 Интервью с Майк Поллард (основатель и инженер по выходу на рынок) 17:06 Советы Сэма основателям