Практичный личный взгляд на LLM и создание продуктов на их основе без лишнего пафоса и сложностей. Доклад развеет мифы и страхи, покажет, как использовать LLM уже сегодня в реальных проектах и адаптироваться к новым техническим вызовам. Вы узнаете, как овладение навыками работы с LLM не только упростит рутину и ускорит разработку, но и станет трамплином для вашей карьеры в новых реалиях AI и Text-No-Anything подходов.

Доклад посвящён технологиям LLM и RAG, их задачам, областям применения и вариациям исполнения. Будут освещены подходы к построению пайплайнов, выбору методов и моделей, оценкам качества.

Расскажу и покажу созданных нами умных ботов и ассистентов для операторов, служб поддержки и корпораций.

Разберем по винтикам все детали разработки умных ботов: программный код, архитектура, фреймворки, модели, методы и подходы.

Рассмотрим современные методы оптимизации инференса нейронных сетей:

• NAS (поиск архитектур нейронных сетей)
• Эффективный инференс на gpu и cpu
• Квантизация
• Дистиляция
• Прунинг

Разберем теорему Байеса, погрузимся в её применение на примерах из реальной жизни. Рассмотрим задачи со срабатыванием сигнализации, монетами и даже выборами, чтобы понять, как байесовский анализ позволяет работать с неопределённостью и обновлять убеждения на основе поступающих данных. Будут аналитические выкладки и примеры кода на Python.

Продолжительность обеда - 1 час

Расскажу про опыт разработок различных систем с участием CV, ML и т.д. Данные системы проходили испытания, многие внедрены в технологический процесс.

Посмотрим на полный цикл разработки программного обеспечения глазами разработчика — от постановки задачи и планирования до релиза.

Серия коротких докладов о применении нейронных сетей для решения личных задач: от автоматизации рутины до творчества. Мы поделимся реальными кейсами и идеями, как AI упрощает жизнь и повышает продуктивность.

Живая дискуссия для вопросов, обмена опытом и обсуждения идей.