Лекция посвящена критике утилитаризма Джона Стюарта Милля и переходу к либертарианской теории справедливости Роберта Нозика. Обсуждаются проблемы различения высоких и низких удовольствий, а также возможность учета прав личности в утилитаризме. Либертарианство утверждает, что права собственности абсолютны, а перераспределение доходов через налоги — это принуждение и кража. В ходе дискуссии студенты спорят о моральных основах налогообложения и границах государственного вмешательства.
В лекции курса «Справедливость» Майкл Сэндел рассматривает противостояние между либеральным и коммунитаристским подходами к моральным обязательствам. Аристотель и Кант представляют два полюса: первый считает целью закона воспитание добродетели, второй — защиту свободы как автономии. Коммунитаристы (Макинтайр, Сэндел) утверждают, что мы наследуем обязательства из сообществ, к которым принадлежим, и что справедливость неразрывно связана с представлениями о благе. Критики (Ролз, Джулия) настаивают, что обязательства возникают только из добровольного согласия или универсальных принципов. Примеры (семья, патриотизм, дело Билли Балджера, Роберт Ли) иллюстрируют конфликт между верностью группе и универсальной справедливостью.
В видео объясняется, как линейные преобразования работают в трёхмерном пространстве. Показано, что любое такое преобразование можно описать матрицей 3x3, столбцы которой — это новые координаты базисных векторов. Приводится пример поворота на 90° вокруг оси Y. Также рассматривается умножение трёхмерных матриц и его применение в компьютерной графике и робототехнике.
В лекции из курса «Справедливость» Майкл Сэндел разбирает аристотелевский телеологический подход к справедливости, согласно которому распределение благ и почестей должно соответствовать конечной цели (telos) социальных практик. На примере распределения флейт, политических должностей и дела гольфиста Кейси Мартина, который добивался права использовать гольф-кар, показано, как вопрос о цели определяет представления о заслугах. Сэндел также рассматривает оправдание Аристотелем рабства через соответствие природе и поднимает проблему конфликта телеологии с индивидуальной свободой, ссылаясь на критику Ролза и Канта.
Лекция посвящена основам генеративного моделирования. В начале приводится пример с тремя лицами, где два сгенерированы моделью Gemini, а одно реальное, что демонстрирует прогресс в качестве генерации. Затем объясняется ключевая идея генеративных моделей — изучение распределения данных для оценки плотности и генерации новых примеров. Вводятся два фундаментальных подхода: автоэнкодеры и вариационные автоэнкодеры (VAE), которые изучают латентные представления, и генеративно-состязательные сети (GAN), где генератор и дискриминатор соревнуются. Обсуждаются свойства хорошего латентного пространства (непрерывность и полнота), роль регуляризации и нормального априорного распределения, а также трюк репараметризации для обучения VAE. В конце упоминаются применения, включая CycleGAN для перевода изображений и аудио, и анонсируется следующая лекция о диффузионных моделях.
Александр Амини, инструктор курса MIT 6.S191 «Введение в глубокое обучение», открывает недельный буткемп, рассказывая о прогрессе в области ИИ за последнее десятилетие: от генерации лиц до больших языковых моделей, таких как ChatGPT и GPT-4, а также о появлении мультимодальных моделей, работающих на периферийных устройствах. Он объясняет фундаментальные концепции: от одного нейрона до глубоких нейронных сетей, функцию активации, прямой и обратный проходы, градиентный спуск и его варианты. Также обсуждаются практические аспекты обучения: переобучение, регуляризация, dropout и ранняя остановка. В конце он анонсирует следующую лекцию о последовательностных моделях и приглашает на практические занятия и соревнования проектов.
В видео объясняется понятие определителя линейного преобразования. Определитель показывает, во сколько раз изменяется площадь (в двумерном пространстве) или объём (в трёхмерном) при данном преобразовании. Отрицательный определитель указывает на инверсию ориентации пространства. Приводятся примеры вычисления определителя для матриц 2x2 и обсуждается его геометрический смысл. Также упоминается связь определителя с линейной зависимостью столбцов матрицы и анонсируется следующее видео о системах линейных уравнений.
В видео обсуждается геометрическая интерпретация неквадратных матриц, которые преобразуют векторы между пространствами разных размерностей. Показано, что матрица 3x2 переводит двумерные векторы в трёхмерные, а матрица 2x3 — наоборот. Также рассматривается преобразование из двумерного пространства в одномерное с помощью матрицы 1x2, связанное со скалярным произведением. Подчёркивается, что такие преобразования сохраняют линейность: параллельность и равноудалённость линий координатной сетки, а начало координат остаётся на месте.
Лекция Майкла Сэндела по курсу «Справедливость» в Гарварде начинается с классической моральной дилеммы о вагонетке, где студенты обсуждают, допустимо ли пожертвовать одной жизнью ради спасения пяти. Затем рассматривается реальный случай XIX века — дело «Королева против Дадли и Стивенса», в котором потерпевшие кораблекрушение моряки убили и съели юнгу, чтобы выжить. Студенты высказывают различные мнения, колеблясь между консеквенциалистским подходом (утилитаризм Иеремии Бентама) и категорическим императивом Иммануила Канта. В конце лекции Сэндел подводит к вопросам о роли согласия, справедливости и моральных принципов, приглашая к дальнейшему изучению философских текстов.
Лекция посвящена компьютерному зрению и сверточным нейронным сетям (CNN). Рассматривается, как компьютеры представляют изображения в виде матриц чисел, и почему свертки эффективнее полносвязных слоев для работы с пространственными данными. Подробно объясняются операции свертки, нелинейности и пулинга, а также их роль в извлечении иерархии признаков. Приводятся примеры применения CNN: классификация изображений, детекция объектов, семантическая сегментация и автономное управление. В конце обсуждаются расширения CNN на другие модальности и задачи.
В лекции обсуждаются глубокое обучение, его достижения и ограничения. Рассматриваются теорема универсальной аппроксимации, проблемы обобщения и переобучения, вопросы смещения данных и состязательных атак. Представлены новые направления: диффузионные модели для генерации изображений и большие языковые модели, их архитектура, обучение и эмерджентные способности. Также объявлены гости лекций и организационные детали курса.
В лекции рассматривается утилитаризм Иеремии Бентама и его применение в реальных кейсах, включая анализ выгод и затрат компании **Philip Morris** в Чехии и скандал с **Ford Pinto**. Обсуждаются ключевые возражения против утилитаризма: игнорирование прав меньшинства, проблематичность денежной оценки человеческой жизни и невозможность сведения всех ценностей к единой мере. Вводится фигура **John Stuart Mill**, предложившего различать высокие и низкие удовольствия, чтобы сделать утилитаризм более гуманным.
В лекции **Майкла Сандела** по курсу **«Справедливость»** в **Гарварде** обсуждаются взгляды **Джона Локка** на естественное состояние, естественные права и частную собственность. **Локк** утверждает, что люди обладают неотчуждаемыми правами на жизнь, свободу и собственность, которые предшествуют правительству. Собственность возникает, когда человек прилагает свой труд к общим ресурсам. Однако **Локк** также считает, что, вступая в общество, люди соглашаются подчиняться большинству, что порождает противоречие между неотчуждаемыми правами и властью большинства. Лектор и студенты обсуждают, как эти идеи **Локка** соотносятся с либертарианством и современными проблемами, такими как налогообложение и интеллектуальная собственность.
В лекции рассматривается обучение с подкреплением (RL) как третий парадигма машинного обучения, наряду с обучением с учителем и без учителя. Основное внимание уделяется глубокому обучению с подкреплением (deep RL), где для аппроксимации функций используется глубокие нейронные сети. Вводится понятие Q-функции, которая оценивает ожидаемую суммарную награду при выполнении действия в данном состоянии, и объясняется, как обучить глубокую Q-сеть (DQN). Обсуждаются ограничения DQN, такие как работа только с дискретными действиями, и вводится класс алгоритмов policy gradient, которые напрямую учат политику и поддерживают непрерывные действия. Приводится пример обучения автопилота в симуляторе и обсуждается применение RL в больших языковых моделях для выравнивания с человеческими предпочтениями. В конце упоминаются прорывные результаты DeepMind в играх Atari и Go.
Лекция из курса «Справедливость» Майкла Сэндела в Гарварде посвящена философии Иммануила Канта. Обсуждается, как совместить долг и автономию, что такое категорический императив и как он работает на примере лжи. Рассматривается знаменитый спор Канта с Бенжаменом Констаном о том, можно ли лгать убийце, чтобы спасти друга. Также поднимается тема общественного договора и гипотетического договора Джона Роулза с «занавесом неведения». В конце обсуждаются моральные аспекты контрактов и обязательств.
Доклад Дуга Бланка, руководителя исследований в Comet ML, посвящён эволюции ИИ и современным вызовам. Он начинает с трёх законов робототехники Айзека Азимова (1942) и предлагает их обновлённую версию для ИИ. Рассматривается история ИИ: от символьного подхода к экспертным системам, машинному обучению и глубокому обучению. Практическая часть включает демонстрацию jailbreak-атак на LLM с использованием платформы Opik, оценку моделей и создание агентной системы. Обсуждаются риски, связанные с LLM, и предлагаются этические принципы, такие как прозрачность, тестирование и безопасность.
В лекции рассматриваются философские вопросы, связанные с согласием, призывом в армию и рыночными отношениями в репродуктивной сфере. Обсуждаются аргументы за и против обязательного призыва, добровольческой армии и наёмничества, а также моральные аспекты суррогатного материнства и донорства. Приводятся примеры из истории США и судебных дел. Поднимаются проблемы принуждения, недостатка информации и дегуманизации.
В лекции Крис Бишоп, технический сотрудник Microsoft и основатель Microsoft Research AI for Science, рассказывает о применении глубокого обучения для ускорения научных открытий. Он объясняет концепцию эмуляторов — нейронных сетей, обученных на данных симуляций, которые заменяют медленные численные решения уравнений, такие как уравнение Шрёдингера в квантовой химии. Приводятся примеры: прогнозирование погоды с помощью эмуляторов атмосферы, генерация кристаллов с помощью диффузионной модели MatGen, и обучение универсального обменно-корреляционного функционала для теории функционала плотности (проект Scala). Обсуждаются ограничения, связанные с теоремой «no free lunch», и перспективы применения эмуляторов для моделирования динамики белков и лекарственных взаимодействий.
Лекция представляет собой введение в философию Иммануила Канта, сосредоточенное на его этических взглядах. Майкл Сэндел объясняет ключевые концепции: автономию, гипотетический и категорический императивы, а также формулу человечности. Обсуждается, почему Кант отвергает утилитаризм и настаивает на том, что людей нельзя использовать только как средство, но всегда как цель саму по себе. Приводятся примеры (владелец магазина, ложное обещание) для иллюстрации кантовского подхода к морали.
В лекции Маттиаса Лехнера, соучредителя и CTO Liquid AI, рассказывается о масштабировании обучения нейронных сетей на тысячи GPU. Объясняется, зачем масштабировать модели и данные, какие методы используются для распределения вычислений (data parallelism, tensor parallelism, pipeline parallelism, sequence/context parallelism, expert parallelism), как управлять памятью (activation checkpointing, offloading, mixed precision, sharding) и какие фреймворки (DeepSpeed, FSDP, Megatron-LM) применяются на практике. Приводятся примеры из индустрии (AlexNet, Llama 2, GPT-3, LFM-2). В конце обсуждаются вопросы децентрализованного обучения и будущего небольших моделей.
В лекции рассматривается теория справедливости Джона Ролза, изложенная в курсе Майкла Сэндела. Обсуждается, как принципы справедливости могут быть выведены из гипотетического общественного договора за «занавесом неведения», отвергая утилитаризм. Ролз предлагает два принципа: равные базовые свободы и принцип справедливого неравенства, допускающий неравенство, если оно приносит пользу наименее обеспеченным. На примерах Майкла Джордана, Билла Гейтса, Дэвида Леттермана и судьи Джуди анализируется, насколько справедливо вознаграждение по заслугам, и приводятся возражения либертарианцев (Милтон Фридман) и меритократов. В итоге ставится вопрос о моральной обоснованности распределения доходов, основанного на случайных природных талантах и общественных условиях.
Лекция 2 курса 6S191 посвящена моделированию последовательностей. Лектор Ава объясняет, что такое последовательные данные, и вводит рекуррентные нейронные сети (RNN), которые обрабатывают данные шаг за шагом, поддерживая внутреннее состояние. Рассматриваются задачи классификации, генерации и перевода, а также ключевые критерии проектирования: числовое представление, обработка переменной длины, учет зависимостей и порядка. Обсуждаются проблемы обучения RNN, такие как затухающие и взрывные градиенты, и решение в виде LSTM. В конце вводится механизм внимания (attention) как основа трансформеров, который позволяет моделировать зависимости без рекуррентности.
В лекции курса «Справедливость» Майкл Сэндел обсуждает позитивную дискриминацию на примере дела Шерил Хопвуд, которая не поступила в юридическую школу Техасского университета из-за расовых предпочтений. Студенты приводят аргументы за и против: компенсация неравенства в образовании, исправление исторической несправедливости и необходимость этнического разнообразия. Сэндел анализирует эти доводы через призму теорий Ролза, который отвергает заслуги как основу справедливого распределения, и Аристотеля, связывающего справедливость с целью и соответствующими качествами. В конце он переходит к телеологическому подходу Аристотеля, иллюстрируя его примером с флейтами.
В видео объясняются основы векторов в линейной алгебре с трёх точек зрения: физики, информатики и математики. Физически вектор — это стрелка с длиной и направлением; в информатике — упорядоченный список чисел; математика обобщает эти подходы, определяя вектор через операции сложения и умножения на скаляр. Подробно рассматриваются координаты векторов на плоскости и в пространстве, а также операции сложения векторов (правило «конец к началу») и умножения на число (масштабирование). Подчёркивается, что эти две операции являются фундаментальными для всей линейной алгебры, и что геометрическая интерпретация помогает лучше понять численные операции.
Видео посвящено линейным преобразованиям и их связи с матрицами. Автор объясняет, что линейное преобразование — это функция, которая перемещает векторы, сохраняя прямые линии прямыми, а начало координат неподвижным. Показывается, что любое двумерное линейное преобразование можно описать матрицей 2x2, столбцы которой — координаты преобразованных базисных векторов. Умножение матрицы на вектор — это просто линейная комбинация столбцов матрицы. Приводятся примеры: поворот на 90°, сдвиг, а также случай, когда преобразование сжимает плоскость в прямую. В конце автор подчёркивает, что понимание матриц как преобразований пространства сильно упрощает изучение линейной алгебры.
В видео объясняется геометрический подход к линейной алгебре, в частности, понятие обратной матрицы. Автор показывает, как система линейных уравнений может быть представлена как умножение матрицы на вектор, и как обратное преобразование позволяет найти решение. Обсуждаются случаи, когда определитель равен нулю, и вводится понятие ранга, пространства столбцов и нульпространства. Также рассматривается, как эти концепции помогают понять существование и множество решений системы уравнений.
В докладе рассматривается эволюция бизнес-модели интернета, основанной на трафике, и её разрушение под влиянием AI-помощников, которые предоставляют ответы напрямую, лишая издателей трафика. Это приводит к катастрофическому падению доходов медиа. Автор предлагает новую модель, где AI-компании платят за создание нового знания и уникального контента, а не за клики. Приводятся примеры из музыки (Spotify) и локальных новостей (Park Record), показывающие, что технология может быть силой расширения, а не разрушения. Также отмечается сопротивление Google, который злоупотребляет своим доминирующим положением.
В видео объясняется векторное произведение через концепцию двойственности. Показано, как линейное преобразование из трёхмерного пространства в одномерное можно представить с помощью дуального вектора, скалярное произведение с которым даёт тот же результат, что и определитель матрицы. Геометрически этот дуальный вектор оказывается векторным произведением: он перпендикулярен исходным векторам, его длина равна площади параллелограмма, а направление задаётся правилом правой руки. Таким образом, вычисления и геометрия векторного произведения связаны через двойственность.
В видео объясняются основы линейной алгебры: понятие вектора, координат, базисных векторов и линейной комбинации. Рассматривается, как с помощью двух базисных векторов можно описать любое двумерное пространство, и вводится понятие линейной оболочки. Обсуждаются случаи линейной зависимости и независимости векторов, а также обобщение на трёхмерное пространство. В конце даётся задание на осмысление определения базиса.
В видео объясняется, что линейные преобразования можно представлять с помощью матриц, где столбцы матрицы — это координаты базисных векторов после преобразования. Композиция двух линейных преобразований соответствует умножению их матриц, причём порядок умножения матриц обратен порядку применения преобразований. На примерах поворота и сдвига показано, что умножение матриц некоммутативно, но ассоциативно. Такой геометрический подход помогает понять суть умножения матриц и избежать зубрёжки формул. В конце рекомендуется самостоятельно тренироваться, придумывая преобразования и вычисляя произведения матриц.
Видео объясняет скалярное произведение векторов, начиная с классического определения и геометрической интерпретации через проекции. Затем вводится понятие двойственности: линейные преобразования из двумерного пространства в числа соответствуют векторам, а скалярное произведение можно рассматривать как умножение на матрицу 1x2. Показано, что любой такой линейной функции соответствует уникальный вектор, и это объясняет, почему проекция и покоординатное умножение дают одинаковый результат. В конце анонсируется следующее видео о векторном произведении.
Видео объясняет концепцию собственных векторов и собственных значений в линейной алгебре. Собственные векторы — это векторы, которые при линейном преобразовании остаются на своей прямой, а собственные значения показывают, во сколько раз они растягиваются или сжимаются. Понимание этой темы требует визуальной базы: представления матриц как линейных преобразований, знания определителей и систем линейных уравнений. Приводятся примеры: вращение в 3D, поворот на 90° (нет собственных векторов), сдвиг, диагональные матрицы. В конце обсуждается собственный базис и его преимущества для возведения матриц в степень.
В видео объясняется векторное произведение в двух и трёх измерениях. В двумерном случае векторное произведение V и W равно ориентированной площади параллелограмма, построенного на этих векторах, и вычисляется через определитель матрицы, столбцы которой — координаты V и W. Отрицательный знак возникает, если V находится слева от W. В трёхмерном случае векторное произведение — это вектор, длина которого равна площади параллелограмма, направление перпендикулярно плоскости и определяется правилом правой руки. Для вычисления используется формальный определитель с базисными векторами в первом столбце. Также упоминается, что более глубокое понимание связано с двойственностью и будет рассмотрено в следующем видео.
В видео объясняется правило Крамера для решения систем линейных уравнений с геометрической точки зрения. Автор показывает, как координаты искомого вектора можно найти через площади и объёмы параллелограммов и параллелепипедов, используя определители. Приводится пример для двух уравнений и обсуждается обобщение на три и более измерений. Отмечается, что метод Крамера не самый эффективный, но полезен для понимания теории. В конце даётся ссылка на оригинальный канал.
Видео объясняет, что такое вектор в линейной алгебре, начиная с простого представления как стрелки на плоскости и переходя к более абстрактному понятию векторного пространства. Показано, что функции также можно рассматривать как векторы, поскольку их можно складывать и умножать на скаляры, и что линейные преобразования, такие как производная, являются линейными операторами. Вводится понятие аксиом векторного пространства как чек-листа, позволяющего применять методы линейной алгебры к любым объектам, удовлетворяющим этим аксиомам. В конце подводится итог серии видео о сути линейной алгебры.
В видео объясняется, как разные системы координат описывают одни и те же векторы с помощью разных базисных векторов. На примере стандартного базиса (i и j) и альтернативного базиса Дженнифер (b1 и b2) показано, как переводить координаты вектора из одной системы в другую с помощью матрицы перехода и обратной матрицы. Также рассматривается, как линейные преобразования (например, поворот на 90°) выглядят в разных системах координат, и вводится формула A⁻¹MA для перевода преобразования из одной системы в другую. В конце упоминается, что в следующем видео будут рассмотрены собственные векторы и собственные значения.
В видео объясняется простой метод вычисления собственных значений для матриц 2x2, основанный на трёх правилах: след матрицы равен сумме собственных значений, определитель равен их произведению, и формула для нахождения чисел по их среднему и произведению. Метод демонстрируется на примерах, включая матрицы Паули из квантовой механики. Показано, что этот подход может быть быстрее классического через характеристический многочлен, особенно для линейных комбинаций матриц. Видео предназначено для зрителей, знакомых с линейной алгеброй.
В подкасте Lex Fridman беседует с David Heinemeier Hansson (DHH) о трансформации программирования под влиянием AI. DHH рассказывает, как за последние 9 месяцев AI-агенты радикально изменили его подход: от ручного написания кода на Ruby к агентно-ориентированной разработке, где AI пишет почти 100% кода, а человек задаёт видение и вкус. Он запустил Linux-дистрибутив Omarchy, который был полностью написан агентами. DHH обсуждает влияние на open source, будущее профессии программиста и призывает не поддаваться панике, а использовать новые возможности.