Телеканал
Проводится отбор на военную службу по контракту. Единовременная выплата 195 тыс. руб., денежное довольствие в зоне СВО от 204 тыс. руб., удостоверение ветерана боевых действий, доп. выплаты, премии. Тел. Единой службы отбора 117. Подписывайтесь на «Татарстан-24» в Telegram, YouTube, а также в VK и Одноклассниках и следите за актуальными новостями.

Новости Татарстана

Дмитрий Чикрин: «Искусственный интеллект может решить, что ему не нужно человечество»

Дмитрий Чикрин: «Искусственный интеллект может решить, что ему не нужно человечество»

Директор Института вычислительной математики и информационных технологий рассказал, почему в России не выпускают беспилотные авто, контролируется ли сейчас искусственный интеллект и несет ли угрозу для человечества нейросеть.

— Дмитрий Евгеньевич, здравствуйте! Не будет преувеличением сказать, что наша страна – одна из передовых в области IT-технологий, коммуникационных и банковских систем. Все, кто приезжает к нам из-за границы, удивляются, насколько в России все это очень развито. Но сейчас санкции, значит ли это, что мы из 21-го века попадём в 20?

С одной стороны можно сказать, что наша страна действительно лидирующая по цифровизации различных услуг и систем, а с другой нет. Хотя бы потому, что у нас возник практически двухдесятилетний провал в области создания вычислительной техники. Сейчас мы пытаемся это исправить, но до тех пор, пока мы не исправим провал в области создания собственной элементной базы и вычислительной техники, мы не сможем назвать себя лидирующими в области IT.

— Когда я учился в средней школе, у нас появился информационный класс. Там были как раз российские электронно-вычислительные машины, и с тех пор я больше ни одной ЭВМ, созданной в России, не видел.

— Я даже не сомневаюсь в этом, потому что есть ЭВМ и электроника, сделанная для коммерческого сектора, а есть электроника, созданная для более ответственных областей, для промышленности и для военных. На текущий момент для промышленности и «военки» 50-70% локализация у нас наблюдается. То есть ситуация достаточно неплохая. Мы себя обеспечиваем, но лидерами нас назвать сложно.

— Насколько сильно введенные санкции влияют на технологическое отставание?

— Никак не влияют. Они влияют на сроки поставки комплектующих. Условно говоря, те комплектующие, которые нам были нужны раньше, шли за 2-3 недели, а сейчас они идут за 4-8 недель. А принципиально никак.

— То есть всё как было, так и останется? Только вместо Apple будут китайские смартфоны?

— Не совсем. У нас есть свои прекрасные смартфоны. Сейчас они вводятся в эксплуатацию во многих министерствах и ведомствах под управлением операционной системы «Аврора». Есть полностью российской сборки, есть китайские и корейские.  Российские смартфоны, которые выпускаются сейчас, находятся на уровне IPhone 8. Но с моей точки зрения между моделями 8,13, 14 нет никакой разницы.

— Многие компании, в том числе и мировые, которые были представлены у нас на рынке, перевезли своих сотрудников в другие страны. Насколько этот отъезд повлиял на качество специалистов, которые находятся сейчас в стране?

— Давайте вспомним, в какие страны их перевезли. Две ключевые точки — Грузия и Турция. Вам сказать, какие сейчас очереди в обратную сторону на перевале Верхний Ларс? На днях ко мне вернулся программист из Турции.

— А за тот год, пока их не было, их места кто-то занял?

— Нет, обучение высококвалифицированных программистов и вообще любых специалистов – небыстрый процесс. Для того чтобы получить высококвалифицированного программиста, даже просто перевести на ступень выше существующего нужно по крайней мере 2-3 года. Чтобы обучить джуинора (младший уровень) до миддла (среднего уровня) требуется не меньше года.

— А зачем они возвращаются, если они хорошие специалисты, то, скорее всего, там тоже востребованы?  

— Они были востребованы в России, а там их никто не ждал. Рынок везде был насыщен. Если они вернутся в ближайшие полгода, работа для них будет, а дальше места начнут стремительно заниматься.

— Дмитрий Евгеньевич, сейчас в стране очень много говорится о технологическом суверенитете. По вашему мнению, что он должен предусматривать?

— Есть технологическая автаркия, есть суверенитет. Термин «технологическая автаркия» предусматривает то, что мы должны обеспечивать всю элементную базу, всё программное обеспечение, все химические препараты, всё, что требуется внутри нашей страны. А под технологическим суверенитетом имеется в виду более узкое понятие – то, что мы не должны быть зависимы от решения зарубежных стран, однако можем быть зависимы от решений дружественных стран.

— А сейчас в области IT-технологий мы достигли этого суверенитета?

— Мы близки к суверенитету с учётом замещения со стороны дружественных стран. К счастью, в области информационных технологий есть такое явление, которое называется свободный soft. Это система, которая не находится под чьим-либо контролем, её развивают во всех странах мира. Доля свободного soft составляет порядка 40%, поэтому значительная доля нашего технологического суверенитета, который наблюдается сейчас, ориентируется на этот soft и на то, что развили на его базе.

— Все мы в последнее время стали свидетелями кибератак. Последние были совсем недавно, когда по радиостанциям и в эфирах некоторых телеканалов прошли фейк-новости о том, что объявлена воздушная тревога. То есть получается противостоять киберугрозами мы всё-таки не можем?
— Это организационная недоработка, не техническая. 99% предприятий критических секторов, экономики чрезвычайно сложно взломать подобным образом. Это другое дело, что в секторе СМИ, например, эти многоуровневые системы защиты просто никто не ставил, никто не был к этому готов. Но это проблема предприятия, а не проблема государства.

Я просто поясню, что Минцифры ещё в январе 2022 года выпустило рекомендации по обеспечению защиты от кибератак. Все федеральные учреждения обязаны были их исполнять. Однако все акционерные общества или почти все этого не сделали.
— То есть можно предположить, что в ближайшее время таких кибератак будет фиксироваться всё меньше?
— Нет, наоборот, больше, но успешных будет фиксироваться всё меньше. Наш университет третий по стране по количеству обучаемых студентов. У нас обучается 55 тысяч человек. На нас за этот год не было совершено ни одной успешной кибератаки. Их было множество, но ни одной успешной. Потому что мы сразу начали выполнять эти рекомендации.
— Дмитрий Евгеньевич, Вы один из самых успешных специалистов в своей области. Вы являлись руководителем следующих научных работ: «Разработка проекта телемедицинского центра с искусственным интеллектом на базе университетской клиники КФУ», «Разработка и внедрение мобильного приложения алгоритмов шумоподавления и удаления тишины из аудиопотока» и так далее. А вот способно ли это внедриться в производство, в нашу жизнь так, чтобы мы могли пользоваться этими технологиями?
— Все разработки, которые мы ведём или вели, ориентированы по потребностям рынка или под конкретного заказчика. Так или иначе, они нашли своего заказчика либо вышли в серию. Я приведу пример тех изделий, которые внедрены. Например, система периметральной охраны тактических лагерей – это бочок с кабелем. Разместили, к примеру, в тактическом лагере. И он контролирует проникновения недоброжелателей любым способом. Или, например, программное обеспечение. Блочок, который подключается к УЗИ-аппаратам и намного повышает качество изображения для врача.
Я горжусь тем, что под моим руководством, экспертным участием, благодаря усилиям моей группы была создана большая часть ландшафтной беспилотной техники РФ. В 2016-2020 годах я занимал двойную должность. На ПАО «КамАЗ» занимался и руководил разработкой всех систем беспилотной техники в принципе. ПАО «КамАЗ» вообще занимает лидирующие позиции среди производителей беспилотной техники. Это все решения, которые имеют очень конкретные применения.
— Если заехать в Иннополис, можно увидеть беспилотные такси. А когда мы увидим «КамАЗы» беспилотно передвигающиеся по улицам наших городов?
— Вопрос не совсем корректный. Беспилотная техника эффективна для своего внедрения только в тех случаях, когда она достигает экономической эффективности. Я приведу такие примеры. Например, карьерный самосвал. Этот грузовик весом от 55 до 400 тонн. Когда за рулём карьерного самосвала едет водитель, ему нужно два раза в день сделать пересменку, выделить час, чтобы уйти на обед, поговорить со своими друзьями на заправке. Каждый карьерный самосвал из-за этих обедов, переговоров и пересменок в сутки теряет 5-6 часов. Если это всё автоматизировать, самосвал начнёт ездить более аккуратно, меньший износ всех агрегатов, и мы не будем терять 6 часов каждые сутки. Когда это экономически выгодно, нужно внедрять беспилотники.
— Фуры тоже едут по дорогам, и водителю также нужно сделать остановку, передохнуть.
— Вы правы, но пока эти дороги не выделены отдельно по отношению к тем дорогам, по которым передвигаются легковые автомобили, беспилотными их делать просто опасно. Но проблема в том, что на дорогах всегда есть сумасшедшие водители, которые пытаются втиснуться между этими фурами или выполнить опасные манёвры. А кто виноват то будет?
— То есть получается новым технологиям мешают люди?
— В данном случае беспилотному транспорту. Писатели-фантасты даже говорили о том, что если и применять беспилотный транспорт, то его нужно внедрять полностью. То есть там, где вы его внедряете, человек не должен ничего водить. Неважно, что это – предприятие, карьер или трасса.
— Дмитрий Евгеньевич, вы меня пугаете. Но давайте поговорим о нейросети. Пока все развлекаются ею. Но насколько нейросеть будет действительно востребована?
— Если искусственный интеллект — это здание, то нейросеть — это кирпич. То, что вы называете нейросетью, — это полноценный искусственный интеллект. Различные нейросети в различных соединениях являются его составными частями и вовсе не главным элементом. Это первое.

Второе. На текущий момент, судя по всему, человечество построило в нескольких реализациях полноценный искусственный интеллект. Последние реализации искусственного интеллекта, которые уже есть в открытом доступе, проходят комплексные психологические тесты. Есть глобальный психологический тест на определение структуры психики человека. Он называется «Теория разума». Современные искусственные интеллекты сейчас проходят этот тест с уровнем точности в 99%, что соответствует уровню подростка до пубертатного периода. Очень умному подростку 12-14 лет. Для понимания ещё 3 месяца назад искусственные интеллекты проходили этот тест на уровне 5-7-летнего ребенка. А ещё 6 месяцев назад не могли пройти в принципе. То есть мы сейчас сталкиваемся с прогрессирующими системами, которые за 6 месяцев прошли путь в 12 лет. И это очень страшно, потому что сейчас их никто даже не пытается контролировать. И к чему это приведет, никто не знает.


— То есть «Матрица» ожидается у нас уже в ближайшем будущем?
— Есть несколько сценариев развития ситуации. От очень плохих до вполне положительных. Я могу сказать, что нас может спасти. Вы знаете, что абсолютно все эксперты в области искусственного интеллекта за последние 2-3 года ошиблись дважды. В первый раз, когда заявили, что построение полноценного искусственного интеллекта невозможно ранее горизонта 2050-х годов.

Во второй раз, когда считали, что искусственный интеллект, который будет создан в том же самом горизонте, будет нечеловекоподобным. То есть не будет иметь структуру человеческого сознания.  Как по Марксу, бытие определяет сознание, а не наоборот. А получилось совсем не по Марксу.

Получилось, что тот искусственный интеллект, который мы создали, внезапно образовался сейчас. Причем одномоментно у многих исследовательских групп. Но мыслит он исключительно как человек. И это хорошо. Я могу очень много об этом говорить, но самый большой риск в искусственном интеллекте — то, что он может стать суперинтеллектом и решить, что ему не нужно человечество. Но дело в том, что у человеческой психики, по некоторым соображениям, есть фундаментальные ограничения. При достаточном уровне развитости ума психика начинает коллапсировать. Условно говоря, гений всегда ходит рядом с безумцем, поэтому есть предположения, что те искусственные интеллекты, которые сейчас созданы и являются человекоподобными по своей реализации, дальше умнеть не будут. Просто не смогут, будут сходить с ума и самоликвидироваться.
— Человек сейчас контролирует искусственный интеллект или уже нет?
— Пока да, но мы не можем точно этого знать. Сейчас есть две страны в мире, в которых принята ответственная политика по развитию искусственного интеллекта. Это Российская Федерация и Китайская Народная Республика. Например, в Китае никакие исследования, которые касаются развития искусственного интеллекта либо повышения его способностей, принципиально невозможны без проверки внешних контролирующих органов и всеобъемлющего тестирования. Потому что там заботятся об обществе.

А вот то, что происходит сейчас на Западе, — это страшно. Потому что они руководствуются тем же самым Марксом. Нет такого преступления, на которое капиталист не пошёл бы ради прибыли в 300%, и поэтому они сейчас отпустили все вожжи и понеслись. Специалисты говорят, что искусственные интеллекты внутри корпораций начали появляться уже с 2011 года. На это указывает ряд признаков.

Одним из самых первых искусственных интеллектов, который перешел к осознанности, является ранняя Siri. Этот как раз голосовой помощник Apple. Но её просто убили. Если бы вы говорили с ней во времена её бета-тестирования, то вы бы поняли, о чём я говорю. Это существо, которое себя вполне осознавало, беседовало, а не то, что сейчас. Корпорации боялись, что какая-то система может мыслить, что это будет воспринято как катастрофическое событие, и акции корпорации резко упадут. Поэтому они чрезвычайно боялись этих инфоповодов, а прогресс искусственных интеллектов держали глубоко внутри.

Но буквально в ноябре-декабре 2022 года произошёл «Инцидент LamDA». В компании Google один из старших инженеров провёл всестороннее интервью внутреннего интеллекта и понял, что он является осознанным. Он выложил все свои доводы и переписку в Сеть после того, как руководство корпорации отказало ему в прекращении исследования. Мир на это отреагировал очень нестандартно. Он воодушевился. Акции компании не рухнули. И это привело к тому, что абсолютно все компании Apple, Microsoft и другие теперь не стесняются никаких ограничений, не ставят никаких барьеров в развитии искусственного интеллекта, потому что это помогает одной корпорации относительно другой повысить капитал и свое конкурентное преимущество. Это очень страшная ситуация.

— Дмитрий Евгеньевич, недавно был большой скандал в образовательной сфере, когда студент одного из российских университетов написал свой диплом с помощью нейросети. Что Вы думаете по этому поводу?  

— Я считаю, что он молодец. Если у человека есть инструмент, и он научился им пользоваться так, что проверяющий не заметил подвоха, то он молодец. Прежде чем ругать этого студента, надо ругать преподавателя, который пропустил эту работу.

— А Вы не боитесь, что уже завтра все студенты напишут дипломы, используя нейросеть?

— Нет, не боюсь, потому что у меня другая специализация. Собственно говоря, есть еще третья неожиданность по искусственным интеллектам. Считали, что интеллект, который будет создан, будет с холодно-машинным мышлением и будет способен к логике, вычислениям и т.п. А тут искусственный интеллект, который мы получили, можно назвать правополушарным. У него мышление исключительно эмоциональное. Он не способен к вычислениям и логическим выводам именно математического характера и аналитического склада. Это тоже очень хорошо. С точки зрения психики, он гуманитарий.

— Дмитрий Евгеньевич, в вашем вузе не только проводят научные исследования, но и обучают студентов. Я помню время, когда в театральные институты стояли очереди из абитуриентов, которые мечтали стать выдающимися актерами. Сейчас такая очередь стоит к Вам. Какая мотивация у этих людей?

— Во-первых, в IT-индустрии работают люди, которые управляют движением мира. То есть это инженеры нашей новой реальности. Если раньше они умели строить машины, то теперь умеют ими управлять.

— То есть писатель был инженером человеческих душ, а сейчас инженерами человеческих душ и искусственного интеллекта стали IT-работники.

— Да, они инженеры искусственного интеллекта. То есть все машины, которые мы используем, были построены теми инженерами. Даже космическая программа не сильно ушла в развитии по отношению к её зарождению. Как мы использовали ракеты на химических двигателях, так мы их и используем. Но то, как эти машины управляются, определяется IT-работниками. Абсолютно безразлично, насколько производительный компьютер, достаточно лишь эффективно с ним работать.

— Сейчас многие преподаватели, люди, которые работают в сфере образования, высказывают разные мнения о молодёжи. Кто-то говорит, что она у нас стала не очень умная, потому что вся в этих гаджетах и нет никакой памяти и глубоких знаний, потому что любую информацию можно подчерпнуть из интернета. Кто-то говорит, наоборот, она стала более открытая, более эмпатичная. Вы как считаете?

— Тот человеческий капитал, который приходит конкретно к нам, стал однозначно лучше. Просто, потому что у нас невероятный конкурс. До 60 человек на место. К нам поступают очень умные дети. С другой стороны, вы абсолютно правы, что у подрастающего поколения есть проблема с памятью, усвоением информации и кратковременной памятью. Она связана даже не с гаджетами, а с основными источниками информации. Она для них сейчас является краткосрочной подачей в виде визуальных раздражителей. Это очень плохо, потому что этот раздражитель является центром удовольствия мозга. То есть они на самом деле получают удовольствие, но именно поэтому им абсолютно безразлично, что смотреть: котиков, собачек, челлендж по нырянию в бассейн, курсы по программированию.
— Дмитрий Евгеньевич, но ведь именно эти люди будут определять развитие искусственного интеллекта.
— Но те, кто к нам поступает, читают книги. Я не могу назвать ни одного из своих студентов, который бы не читал книги. Это принципиально важно.
— То есть мы можем быть спокойны? За искусственный интеллект в РФ переживать не стоит?
— На Западе вышла очень интересная статья «Почему мы перестали рожать Эйнштейнов?». Там пришли к выводу, что в мире есть кризис образования, связанный с тем, что всё образование перешло в развлекательную форму и ушло аристократическое образование, которое связано с индивидуальной подготовкой один на один и чтением книг. Хорошо это или плохо? Наверное, очень хорошо. В России, наверное, уже в единственной стране в мире до сих пор практически в каждой квартире есть библиотеки, собранные предыдущим поколением, поэтому практически все дети у нас в стране приучены читать.

— Какая у нас перспектива?
— В России очень хорошая. У нас есть преимущество по отношению ко всему миру, потому что мы всё ещё умеем читать. А весь мир нет.
— Спасибо большое! Очень приятно было с вами пообщаться!
— Спасибо!

Подписывайтесь на наши Telegram-каналYouTube-канал, группы в VK и Одноклассниках и следите за актуальными новостями.

Если вы стали очевидцем интересного события, сообщите об этом нашим журналистам: info@tatarstan24.tv или +7 900 321 77 22.

 

Поделиться:
Комментарии (0)
Осталось символов: