Ключевые концепции ИИ для инженеров

https://www.youtube.com/watch?v=OYvlznJ4IZQ&list=TLGGZHEH_4De17EyMTA5MjAyNQ&index=1 Текст представляет собой выдержки из стенограммы видео с YouTube-канала «Gaurav Sen», озаглавленного «20 концепций искусственного интеллекта, объясненных за 40 минут», и фокусируется на объяснении ключевых терминов в области искусственного интеллекта для инженеров. Автор видео, GKCS, представляет и подробно описывает основополагающие концепции, связанные с большими языковыми моделями (LLM), начиная с определений LLM, токенизации и векторов. Далее объясняется, как механизмы, такие как внимание (attention), позволяют моделям понимать контекст, а самостоятельное обучение (self-supervised learning) используется для эффективного обучения моделей без постоянного вмешательства человека. Видео также знакомит с архитектурой трансформера (transformer), процессами дообучения (fine-tuning) и контекст-обогащенной генерации с извлечением (Retrieval Augmented Generation, RAG), а также с такими инструментами, как векторные базы данных (vector databases) и протокол контекста модели (Model Context Protocol, MCP). Наконец, обсуждаются более продвинутые темы, включая контекстную инженерию (context engineering), агенты (agents), обучение с подкреплением (reinforcement learning), цепочка рассуждений (chain of thought), мультимодальные модели (multimodal models), а также малые языковые модели (Small Language Models, SLM), созданные с помощью дистилляции (distillation) и квантования (quantization).