Лекция посвящена критике утилитаризма Джона Стюарта Милля и переходу к либертарианской теории справедливости Роберта Нозика. Обсуждаются проблемы различения высоких и низких удовольствий, а также возможность учета прав личности в утилитаризме. Либертарианство утверждает, что права собственности абсолютны, а перераспределение доходов через налоги — это принуждение и кража. В ходе дискуссии студенты спорят о моральных основах налогообложения и границах государственного вмешательства.
В лекции курса «Справедливость» Майкл Сэндел рассматривает противостояние между либеральным и коммунитаристским подходами к моральным обязательствам. Аристотель и Кант представляют два полюса: первый считает целью закона воспитание добродетели, второй — защиту свободы как автономии. Коммунитаристы (Макинтайр, Сэндел) утверждают, что мы наследуем обязательства из сообществ, к которым принадлежим, и что справедливость неразрывно связана с представлениями о благе. Критики (Ролз, Джулия) настаивают, что обязательства возникают только из добровольного согласия или универсальных принципов. Примеры (семья, патриотизм, дело Билли Балджера, Роберт Ли) иллюстрируют конфликт между верностью группе и универсальной справедливостью.
В лекции из курса «Справедливость» Майкл Сэндел разбирает аристотелевский телеологический подход к справедливости, согласно которому распределение благ и почестей должно соответствовать конечной цели (telos) социальных практик. На примере распределения флейт, политических должностей и дела гольфиста Кейси Мартина, который добивался права использовать гольф-кар, показано, как вопрос о цели определяет представления о заслугах. Сэндел также рассматривает оправдание Аристотелем рабства через соответствие природе и поднимает проблему конфликта телеологии с индивидуальной свободой, ссылаясь на критику Ролза и Канта.
Лекция посвящена основам генеративного моделирования. В начале приводится пример с тремя лицами, где два сгенерированы моделью Gemini, а одно реальное, что демонстрирует прогресс в качестве генерации. Затем объясняется ключевая идея генеративных моделей — изучение распределения данных для оценки плотности и генерации новых примеров. Вводятся два фундаментальных подхода: автоэнкодеры и вариационные автоэнкодеры (VAE), которые изучают латентные представления, и генеративно-состязательные сети (GAN), где генератор и дискриминатор соревнуются. Обсуждаются свойства хорошего латентного пространства (непрерывность и полнота), роль регуляризации и нормального априорного распределения, а также трюк репараметризации для обучения VAE. В конце упоминаются применения, включая CycleGAN для перевода изображений и аудио, и анонсируется следующая лекция о диффузионных моделях.
Александр Амини, инструктор курса MIT 6.S191 «Введение в глубокое обучение», открывает недельный буткемп, рассказывая о прогрессе в области ИИ за последнее десятилетие: от генерации лиц до больших языковых моделей, таких как ChatGPT и GPT-4, а также о появлении мультимодальных моделей, работающих на периферийных устройствах. Он объясняет фундаментальные концепции: от одного нейрона до глубоких нейронных сетей, функцию активации, прямой и обратный проходы, градиентный спуск и его варианты. Также обсуждаются практические аспекты обучения: переобучение, регуляризация, dropout и ранняя остановка. В конце он анонсирует следующую лекцию о последовательностных моделях и приглашает на практические занятия и соревнования проектов.
Лекция Майкла Сэндела по курсу «Справедливость» в Гарварде начинается с классической моральной дилеммы о вагонетке, где студенты обсуждают, допустимо ли пожертвовать одной жизнью ради спасения пяти. Затем рассматривается реальный случай XIX века — дело «Королева против Дадли и Стивенса», в котором потерпевшие кораблекрушение моряки убили и съели юнгу, чтобы выжить. Студенты высказывают различные мнения, колеблясь между консеквенциалистским подходом (утилитаризм Иеремии Бентама) и категорическим императивом Иммануила Канта. В конце лекции Сэндел подводит к вопросам о роли согласия, справедливости и моральных принципов, приглашая к дальнейшему изучению философских текстов.
Лекция посвящена компьютерному зрению и сверточным нейронным сетям (CNN). Рассматривается, как компьютеры представляют изображения в виде матриц чисел, и почему свертки эффективнее полносвязных слоев для работы с пространственными данными. Подробно объясняются операции свертки, нелинейности и пулинга, а также их роль в извлечении иерархии признаков. Приводятся примеры применения CNN: классификация изображений, детекция объектов, семантическая сегментация и автономное управление. В конце обсуждаются расширения CNN на другие модальности и задачи.
В лекции обсуждаются глубокое обучение, его достижения и ограничения. Рассматриваются теорема универсальной аппроксимации, проблемы обобщения и переобучения, вопросы смещения данных и состязательных атак. Представлены новые направления: диффузионные модели для генерации изображений и большие языковые модели, их архитектура, обучение и эмерджентные способности. Также объявлены гости лекций и организационные детали курса.
В лекции рассматривается утилитаризм Иеремии Бентама и его применение в реальных кейсах, включая анализ выгод и затрат компании **Philip Morris** в Чехии и скандал с **Ford Pinto**. Обсуждаются ключевые возражения против утилитаризма: игнорирование прав меньшинства, проблематичность денежной оценки человеческой жизни и невозможность сведения всех ценностей к единой мере. Вводится фигура **John Stuart Mill**, предложившего различать высокие и низкие удовольствия, чтобы сделать утилитаризм более гуманным.
В лекции **Майкла Сандела** по курсу **«Справедливость»** в **Гарварде** обсуждаются взгляды **Джона Локка** на естественное состояние, естественные права и частную собственность. **Локк** утверждает, что люди обладают неотчуждаемыми правами на жизнь, свободу и собственность, которые предшествуют правительству. Собственность возникает, когда человек прилагает свой труд к общим ресурсам. Однако **Локк** также считает, что, вступая в общество, люди соглашаются подчиняться большинству, что порождает противоречие между неотчуждаемыми правами и властью большинства. Лектор и студенты обсуждают, как эти идеи **Локка** соотносятся с либертарианством и современными проблемами, такими как налогообложение и интеллектуальная собственность.
В лекции рассматривается обучение с подкреплением (RL) как третий парадигма машинного обучения, наряду с обучением с учителем и без учителя. Основное внимание уделяется глубокому обучению с подкреплением (deep RL), где для аппроксимации функций используется глубокие нейронные сети. Вводится понятие Q-функции, которая оценивает ожидаемую суммарную награду при выполнении действия в данном состоянии, и объясняется, как обучить глубокую Q-сеть (DQN). Обсуждаются ограничения DQN, такие как работа только с дискретными действиями, и вводится класс алгоритмов policy gradient, которые напрямую учат политику и поддерживают непрерывные действия. Приводится пример обучения автопилота в симуляторе и обсуждается применение RL в больших языковых моделях для выравнивания с человеческими предпочтениями. В конце упоминаются прорывные результаты DeepMind в играх Atari и Go.
Лекция из курса «Справедливость» Майкла Сэндела в Гарварде посвящена философии Иммануила Канта. Обсуждается, как совместить долг и автономию, что такое категорический императив и как он работает на примере лжи. Рассматривается знаменитый спор Канта с Бенжаменом Констаном о том, можно ли лгать убийце, чтобы спасти друга. Также поднимается тема общественного договора и гипотетического договора Джона Роулза с «занавесом неведения». В конце обсуждаются моральные аспекты контрактов и обязательств.
Доклад Дуга Бланка, руководителя исследований в Comet ML, посвящён эволюции ИИ и современным вызовам. Он начинает с трёх законов робототехники Айзека Азимова (1942) и предлагает их обновлённую версию для ИИ. Рассматривается история ИИ: от символьного подхода к экспертным системам, машинному обучению и глубокому обучению. Практическая часть включает демонстрацию jailbreak-атак на LLM с использованием платформы Opik, оценку моделей и создание агентной системы. Обсуждаются риски, связанные с LLM, и предлагаются этические принципы, такие как прозрачность, тестирование и безопасность.
В лекции рассматриваются философские вопросы, связанные с согласием, призывом в армию и рыночными отношениями в репродуктивной сфере. Обсуждаются аргументы за и против обязательного призыва, добровольческой армии и наёмничества, а также моральные аспекты суррогатного материнства и донорства. Приводятся примеры из истории США и судебных дел. Поднимаются проблемы принуждения, недостатка информации и дегуманизации.
В лекции Крис Бишоп, технический сотрудник Microsoft и основатель Microsoft Research AI for Science, рассказывает о применении глубокого обучения для ускорения научных открытий. Он объясняет концепцию эмуляторов — нейронных сетей, обученных на данных симуляций, которые заменяют медленные численные решения уравнений, такие как уравнение Шрёдингера в квантовой химии. Приводятся примеры: прогнозирование погоды с помощью эмуляторов атмосферы, генерация кристаллов с помощью диффузионной модели MatGen, и обучение универсального обменно-корреляционного функционала для теории функционала плотности (проект Scala). Обсуждаются ограничения, связанные с теоремой «no free lunch», и перспективы применения эмуляторов для моделирования динамики белков и лекарственных взаимодействий.
Лекция представляет собой введение в философию Иммануила Канта, сосредоточенное на его этических взглядах. Майкл Сэндел объясняет ключевые концепции: автономию, гипотетический и категорический императивы, а также формулу человечности. Обсуждается, почему Кант отвергает утилитаризм и настаивает на том, что людей нельзя использовать только как средство, но всегда как цель саму по себе. Приводятся примеры (владелец магазина, ложное обещание) для иллюстрации кантовского подхода к морали.
В лекции Маттиаса Лехнера, соучредителя и CTO Liquid AI, рассказывается о масштабировании обучения нейронных сетей на тысячи GPU. Объясняется, зачем масштабировать модели и данные, какие методы используются для распределения вычислений (data parallelism, tensor parallelism, pipeline parallelism, sequence/context parallelism, expert parallelism), как управлять памятью (activation checkpointing, offloading, mixed precision, sharding) и какие фреймворки (DeepSpeed, FSDP, Megatron-LM) применяются на практике. Приводятся примеры из индустрии (AlexNet, Llama 2, GPT-3, LFM-2). В конце обсуждаются вопросы децентрализованного обучения и будущего небольших моделей.
В лекции рассматривается теория справедливости Джона Ролза, изложенная в курсе Майкла Сэндела. Обсуждается, как принципы справедливости могут быть выведены из гипотетического общественного договора за «занавесом неведения», отвергая утилитаризм. Ролз предлагает два принципа: равные базовые свободы и принцип справедливого неравенства, допускающий неравенство, если оно приносит пользу наименее обеспеченным. На примерах Майкла Джордана, Билла Гейтса, Дэвида Леттермана и судьи Джуди анализируется, насколько справедливо вознаграждение по заслугам, и приводятся возражения либертарианцев (Милтон Фридман) и меритократов. В итоге ставится вопрос о моральной обоснованности распределения доходов, основанного на случайных природных талантах и общественных условиях.
Лекция 2 курса 6S191 посвящена моделированию последовательностей. Лектор Ава объясняет, что такое последовательные данные, и вводит рекуррентные нейронные сети (RNN), которые обрабатывают данные шаг за шагом, поддерживая внутреннее состояние. Рассматриваются задачи классификации, генерации и перевода, а также ключевые критерии проектирования: числовое представление, обработка переменной длины, учет зависимостей и порядка. Обсуждаются проблемы обучения RNN, такие как затухающие и взрывные градиенты, и решение в виде LSTM. В конце вводится механизм внимания (attention) как основа трансформеров, который позволяет моделировать зависимости без рекуррентности.
В лекции курса «Справедливость» Майкл Сэндел обсуждает позитивную дискриминацию на примере дела Шерил Хопвуд, которая не поступила в юридическую школу Техасского университета из-за расовых предпочтений. Студенты приводят аргументы за и против: компенсация неравенства в образовании, исправление исторической несправедливости и необходимость этнического разнообразия. Сэндел анализирует эти доводы через призму теорий Ролза, который отвергает заслуги как основу справедливого распределения, и Аристотеля, связывающего справедливость с целью и соответствующими качествами. В конце он переходит к телеологическому подходу Аристотеля, иллюстрируя его примером с флейтами.