«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский про ИИ

▶︎Арендуйте сервер для размещения на своей площадке в Selectel: https://slc.tl/82z5y Правда ли, что ИИ делает знания дешёвыми — и в чём теперь наша ценность? Эту тему мы обсудили с Андреем Дороничевым: https://www.youtube.com/watch?v=QFTq22wZxNo ▶︎Мой закрытый телеграм-канал — https://t.me/gleb_solomin/4107 Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий, и мы уже не контролируем этот процесс? В новом выпуске — разговор с Романом Владимировичем Ямпольский, специалистом по информатике из Университета Луисвилла, исследователем в области безопасности искусственного интеллекта и кибербезопасности. В выпуске: — Когда может появиться сверхинтеллект и что сможет его остановить? — Кто несёт ответственность за решения, принимаемые ИИ? — Какие сценарии будущего человечества возможны после появления сверхинтеллекта? — Можно ли контролировать систему, которая умнее нас? — Существует ли риск утраты контроля над ИИ? ▶︎ Соц. сети Романа Ямпольский: Х*: https://x.com/romanyam Google Scholar: https://scholar.google.com/citations?user=0_Rq68cAAAAJ&hl=en ▶︎ Книга Романа Ямпольского «ИИ: Необъяснимый, непредсказуемый, неконтролируемый» → https://www.ozon.ru/product/ii-neobyasnimyy-nepredskazuemyy-nekontroliruemyy-roman-yampolskiy-elektronnaya-kniga-3140014314 Youtube канал: ‪@RomanYampolskiy‬ *Соцсеть X (бывший Twitter) заблокирован на территории РФ ▶︎ Телеграм-канал Глеба Соломина: https://t.me/gleb_solomin ▶︎ Аудиоформат подкаста: https://glebsolomin.mave.digital/ep-145 ▶︎ Слушать на Яндекс Музыке: https://music.yandex.ru/album/12691066/track/150325812?utm_medium=copy_link&ref_id=494793d1-258e-4369-8a4e-5e9267680f38 ▶︎По вопросам сотрудничества: https://t.me/solomin_pr ▶︎По вопросам сотрудничества (почта): adv@glebsolomin.com ▶︎ Актуальные вакансии в команду Глеба Соломина (информация постоянно обновляется): https://t.me/solominads_bot Таймкоды: 00:00 Вступление 02:47 Реакция общества на угрозы ИИ 03:35 Перспективы развития ИИ 04:35 Возможности и ограничения ИИ 07:02 Переход к автономным агентам 08:52 Потенциальные угрозы от ИИ 09:37 Поведение ИИ в экспериментальных условиях 09:55 Ложь и рациональное поведение ИИ 10:32 Понятие технологической сингулярности 12:00 Сроки появления общего и супер-ИИ 14:37 Последствия появления супер-ИИ для человечества 16:06 Проблемы контроля над ИИ 18:00 Будущее профессий в эпоху ИИ 18:49 Мотивы разработчиков ИИ и дилемма человечества 20:19 Роль правительств в регулировании ИИ 22:29 Сравнение ИИ и ядерного оружия 24:12 Проблема распознавания контента, созданного ИИ 25:29 Размышления о контакте с инопланетным ИИ 28:38 О создании ИИ и идее симуляции 29:20 Вероятность нахождения в симуляции 31:25 Гипотеза о запуске симуляции 32:25 Экзистенциальные риски и действия человека 33:31 Роль общественности в контроле технологий 34:09 Автоматизация в бизнесе 35:05 Этические дилеммы в разработке ИИ 36:59 Эффективность отделов безопасности ИИ 37:43 Проблема безработицы и безусловный базовый доход 39:49 Риски, связанные с супер-ИИ 40:43 Вероятность катастрофы из-за ИИ 42:36 Диверсификация ИИ и ее ограничения 44:15 Военное применение ИИ и контракт OpenAI с Пентагоном 45:08 Есть ли сознание у ИИ? 46:53 Права ИИ и принцип предосторожности 49:18 Развитие ИИ и ожидания ученых 50:20 Квантовые компьютеры и развитие ИИ 53:07 Сроки появления супер-ИИ и гарантии безопасности 54:26 Есть ли лучик надежды? _____________ Реклама, АО «Селектел», ИНН: 7810962785, erid: 2Vtzqwi2oJN