ИИ в науке: вызов для академической этики
В 2024 году применение искусственного интеллекта и нейросетей в науке стало массовым и разносторонним, а в 2025 — наверняка будут новые возможности. Специалисты из разных областей — от физики и медицины до лингвистики и геоинформатики — активно используют GPT-подобные системы и машинное обучение для анализа данных и создания текстов. Однако столь впечатляющее развитие ИИ вызывает новые вопросы об этике, авторских правах и прозрачности академических публикаций. Одни эксперты, с которым поговорил канал «Наука», видят в нейросетях огромный потенциал ускорения исследований, другие опасаются развития «ИИ-плагиата» и вытеснения человека из определенных отраслей. В итоге научное сообщество все громче говорит о необходимости четких правил и локальных актов, которые определят, где заканчивается помощь ИИ и начинается нарушение академических норм.
Нейросети стали неизбежным элементом современной жизни, вплоть до того что люди, владеющие ими (поколение Z) уже выше ценятся в отдельных сегментах рынка труда, чем гораздо более опытные специалисты с многолетним стажем.
Это неизбежно, и мне не представляется нереальной ситуация, когда профессия программиста в массе отомрет за ненадобностью.
Другое дело, что пока это не произошло, остается проблема авторства, прав на интеллектуальную собственность, плагиат с использованием ИИ и др.
В нашей области, к примеру, считается нормальным использовать ИИ для написания программы, поскольку это вспомогательный продукт, но нормально ли это для компьютерных наук — уже вопрос. Большинство научных журналов разрешает использование ИИ для улучшения грамматики англоязычного текста, однако так ли велика дистанция от такого использования до генерации текста на английском языке под видом оригинального авторского?
Есть два направления использования ИИ в научной работе: в качестве инструмента научного анализа и в качестве инструмента для генерации текста и иллюстративных материалов.
В первом случае это вполне многообещающее и ценное направление. Во втором случае — отрицательный фактор. Коллеги рассказывали, что в системах подготовки заявок на наблюдения задают теперь вопросы о том, использовался ли ИИ при подготовке заявки и не возражает ли автор, чтобы ИИ использовался при ее анализе. То есть, один ИИ будет составлять заявку, другой — ее анализировать, а собственно астроном-человек будет в это время лениво потягивать через трубочку безалкогольный коктейль на террасе своего дома.
Пока применение ИИ ограничивается лично у меня составлением красивых презентаций, красивых картинок, в том числе для графических абстрактов для научных публикаций, полированием английского языка для статей. Пытался написать введение к одной из научных статей с просьбой дать литературные источники. Все литературные источники оказались вымышленными, хотя авторы и журналы были реальны.
Но времена меняются, думаю в 2025 году ИИ и ссылки будет давать правильные, и проводить более глубокий анализ научной литературы по физике, химии и материаловедению.
На мой взгляд, нейросети и наука просто несовместимы.
Нейросеть предполагает процесс обучения — то есть повышение вероятности выбрать правильный ответ из известных. Например, самое прямое приложение — распознавание образов, возможность отличить на фото кошку от собаки. Для науки важно создать новое — нейросеть тут бесполезна.
Количество мусорных статей и скрытого плагиата возрастет — тут нейросеть вне конкуренции. Как оцениваю? — Да как квантовые вычисления. Они уже изменили наш мир? Вот и нейросети не изменят.
Самое большое событие — публикация GPT-о, которая все ближе приближает нас к революции в некоторых человеческих профессиях, включая достаточно сложные — программист, юрист. Научные применения GPT-подобных систем пока не так близки (кроме написания отчетов), но уверен, что через некоторое время они будут выполнять некоторые рутинные операции.
Скорее всего, скоро выйдет первое лекарство, сконструированное ИИ. Но в целом я бы сказал так: очень многим наукам еще предстоит трансформироваться в готовые к ИИ. Это очень важно особенно для «мокрых», то есть занимающихся непосредственно экспериментами, лабораторий.
На мой взгляд, наиболее значимым событием в 2024 году стало создание новой архитектуры модели GPT-o1 компанией OpenAI. Основная ее инновация заключается в том, что теперь модель состоит не из одного эксперта, а из нескольких, которые участвуют во внутреннем диалоге, обсуждая запрос и формируя согласованный итоговый ответ. Такой подход позволяет получать более качественные ответы и снижает количество «галлюцинаций» — ситуаций, когда модель выдает недостоверную информацию.
Благодаря этой архитектуре инструменты на базе GPT-o1 можно применять для более сложных задач: от составления аналитических отчетов до решения математических задач и научных проблем. Именно для этого создавалась GPT-o1 — она предназначена не для простых вспомогательных задач, а для работы с принципиально сложными проблемами.
Доступ к технологии был открыт широкой аудитории, включая пользователей без технической подготовки. По сути, это начало новой «революции» — когнитивной. В прошлом машины усиливали физические способности человека, теперь же ИИ усиливает когнитивные возможности. Это изменяет подходы к научной работе, исследованиям и обучению, ускоряет научный поиск, делает возможным автоматизированное выполнение интеллектуальных задач и открывает новые перспективы для внедрения ИИ в профессиональную деятельность.
Появление модели GPT-o1 приведет, по всей вероятности, к тому, что научный поиск ускорится. С помощью новых моделей можно будет формулировать рабочие гипотезы, разрабатывать алгоритмы для их проверки, анализировать данные, полученные в ходе наблюдений или экспериментов. Те научные направления, которые сегодня находятся на фронтире науки и научного поиска, получат дополнительный импульс к развитию. Например, синтетическая биология, энергоэффективные технологии, генетика, нанотехнологии, фармакология.
Процесс развития нейросетей и ИИ оказывает значительное влияние на нашу научную работу. Ключевым направлением для нас в 2024 году стало развитие технологии ИИ для сферы доклинических исследований, проводимых в нескольких направлениях — медицинском, ветеринарном и фармакологическом. Мы планируем разработать алгоритмы и подобрать данные для обучения ИИ в каждом из них. Наиболее интенсивно на базе нашего подразделения сейчас развиваются направления, связанные с обработкой и анализом изображений томографических исследований различных видов животных в доклинических испытаниях фармакологических препаратов и методов лечения опухолей. В настоящее время мы накапливаем данные, полученные на нашем томографе, чтобы в ближайшем будущем на их основе создать томографический атлас нормальных и патологических состояний животных, и использовать его при обучении искусственного интеллекта. Это позволит повысить точность исследований и сократить время на обработку получаемой информации.
Я уверен, что уже через несколько лет ИИ станет важнейшим фактором нашей жизни, и мы пока даже близко не можем представить всех его функций и последствий постоянной коммуникации с ним.
Лингвисты почти не участвовали в создании больших языковых моделей типа ChatGPT, но включились в их настройку и тренировку. Кроме того, лингвисты изучают языковые и коммуникативные способности ИИ как нового игрока в пространстве коммуникации.
От применения ИИ в работе может возникнуть эйфория, поскольку ИИ на сегодняшний день расширяет возможности ученого, но есть вероятность, что в дальнейшем ИИ вытеснит человека из этой области, то есть будет справляться с исследовательскими задачами лучше него. Я не применяю ИИ в своей научной деятельности. Возможно, безосновательно, но мне это кажется своего рода «читерством».
Я рассматриваю стремительное развитие нейросетей и ИИ как положительный и уже практически ощутимый фактор. В моей сфере эти технологии помогают решать задачи дешифрирования спутниковых снимков и ускоряют анализ геоданных, повышают точность прогнозирования рисков и снижают стоимость мониторинга. Сама я активно применяю нейросетевые алгоритмы при обработке спутниковой информации, что позволяет достичь результатов, недоступных традиционными методами.
Возможности искусственного интеллекта мы, безусловно, учитываем в наших работах. Однако по ряду объективных причин на существующем этапе развития пока его роль не стала определяющей. Надеемся, что все впереди. В целом для науки и вообще для жизнедеятельности человека возможность применения искусственного интеллекта — это очевидная перспектива, и он, вне всяких сомнений, окажет на них прогрессивное благотворное влияние. Однако, по-видимому, останутся такие зоны ответственности, в которых технологии искусственного интеллекта не смогут в полной мере заменить человека (консолидированный человеческий разум). Это относится в первую очередь к тем из них, в которых принятие решений является жизнеопределяющим и неоправданно может поставить, например, под угрозу человеческие жизни или тем более возможность существования человечества. В таких случаях участие искусственного интеллекта должно быть соразмерено или вовсе ограничено.
Мы применяем нейронные сети для обработки данных, например, при совмещении данных, полученных с помощью спутников и беспилотников. При этом нужно учитывать, что из-за санкционных ограничений вычислительные мощности, которыми мы располагаем, существенно уступают возможностям как западных, так и китайских конкурентов. В каком-то смысле мы сейчас находимся в том же положении, что и советская наука на рубеже 1960-70-х годов, когда нам ограничили доступ к западной вычислительной технике. Это привело к расцвету советской прикладной математики, результатами которого, кстати, до сих пор во всем мире пользуются компании, развивающие технологии искусственного интеллекта. Поэтому я считаю, что у наших ученых есть исторический шанс совершить очередной прорыв , правда вынужденный, в силу объективных ограничений.
В ближайшем будущем мы ждем массового применения искусственного интеллекта уже не в телекоммуникациях, а в управлении подвижными системами: беспилотниками, роботами и так далее. Не все, наверное, знают этот факт, но это требует более серьезных вычислительных ресурсов, чем даже сложные когнитивные операции. Это удивительное наблюдение известно как парадокс Моравека — был такой чешский ученый, который в конце 80-х годов прошлого века показал, что моторика годовалого ребенка требует более значительных интеллектуальных ресурсов, чем, скажем, игра в шахматы. Поэтому до сих пор мы умеем управлять движением роботов лишь на самом примитивном уровне. И, конечно, ожидаем, что со временем искусственный интеллект дозреет, наконец, до серьезного управления движением. У таких систем появится новое свойство — если что-то пойдет не так, мы уже не сможем выключить их из розетки в случае чего. Да, это пугающая вещь, и в будущем этот фактор будет только усиливаться. Это войдет в обыденную жизнь и потребует от нас очень многое пересмотреть и изменить, в том числе и на бытовом уровне.
Прогресс искусственного интеллекта в ушедшем году я оцениваю как ошеломительный. И конечно же он сказывается на научной сфере в том числе. Современные нейросети уже очень полезны как «критический собеседник» — можно загрузить текст и попросить дать критические замечания, указать пробелы и слабые стороны, предложить направления развития работы. Очень хорошо работает правка английского языка, можно исправить ошибки и получить пояснения к исправлениям. Уже сейчас очень хорошо работает анализ и работа с данными — можно загрузить разные таблицы и получить сводный анализ, переформатировать данные и т.п. Все эти функции появились в 2024-м, прогресс очень быстрый, и пока нет оснований полагать, что он серьезно замедлится в 2025-м.
Для меня, как футуролога и разработчика софта и онлайновых сервисов, стал очевиден переход с одноразовой оплаты за продукт на систему подписки и лицензирования. Мир так быстро меняется, что продукт нужно постоянно адаптировать к этим обстоятельствам. И разработчик не похож на скульптора, который что-то делает один раз и на века. Скорее, похож на садовника, который постоянно должен наблюдать за своим садом. Полезность перемен в том, что людям приходится для выживания поддерживать высокий уровень креативности.
ИИ совершенствуется. Несмотря на то что в этой области происходит надувание финансового пузыря, в целом ИИ может потеснить с рынка так называемых работников умственного труда. Не ученых, но среднее звено: бухгалтеров, юристов, секретарей. Это может спровоцировать миграционные проблемы на планете в целом.
А еще, если раньше гаражные технологии касались лишь разработки компьютеров и электронных устройств, то теперь это можно наблюдать в области вооружений, медицине и даже фармакологии. Это происходит потому, что законодательство и деятельность госструктур не успевает за изменениями. В результате образуются «серые зоны», в которых закон не действует.
Среди важных событий в области искусственного интеллекта я бы отметил вручение Нобелевской премии Джеффри Хинтону и Джону Хопфилду. Это одни из «отцов-основателей» нейросетей, таким образом были отмечены результаты, достигнутые этими двумя исследователями по применению нейронных сетей в различных сферах.
В 2025 году можно ожидать заметных результатов в нескольких научных областях. Компьютерное зрение в медицине демонстрирует высокий уровень и положительно оценивается врачами.
В то же время в науке активно начинает применяться искусственный интеллект. Например, AlphaFold3 используется для расчета сворачивания белков, а наши коллеги исследуют его применение для анализа ДНК-последовательностей. Основное внимание здесь уделяется выявлению семантических свойств генов. Ожидается прорыв, похожий на успех ChatGPT, но уже в области анализа биологической информации.
Физики активно используют глубокие нейросети для ускорения вычислений и моделирования. Многие задачи, которые раньше решались методами численного моделирования, теперь рассчитываются с помощью нейросетей. То, что ранее занимало месяц, теперь можно выполнить за час. Это означает, что в ближайшем будущем можно ожидать новых научных результатов в физике и химии.
Заметные изменения происходят и в квантовой химии. Здесь с помощью нейросетей рассчитываются свойства молекул на основе уравнений Шредингера — это сложная задача для численного моделирования, но за последние три года был достигнут значительный прогресс. В кристаллографии также наблюдается успех в моделировании свойств молекул и кристаллов, что открывает новые возможности для исследований.
Я проводил исследования с использованием нейросетей, начиная с 2001 года. У меня были в то время публикации по применению нейросетей для описания референциального выбора в дискурсе. В настоящее время вместе с коллегами мы изучаем возможности применения нейросетей для автоматической аннотации мультиканального дискурса. (Обычная человеческая коммуникация является мультиканальным процессом: люди общаются между собой, используя слова, интонацию, жесты, мимику, движения глаз. Все эти коммуникативные каналы используются одновременно и в связке.)
Нейросети эффективно используются в качестве инструмента анализа геолого-геофизических данных. В частности, с использованием машинных методов обучения в Геофизическом центре РАН построена нейросетевая модель для оценки величины геомагнитно-индуцированных токов, возникающих при повышенной геомагнитной активности. Последние являются наиболее опасным проявлением космической погоды для энергетической и транспортной инфраструктуры в арктической зоне.
Для России предлагаемый подход является во многом безальтернативным, поскольку в российской Арктике фактические наблюдения космической погоды и геомагнитного поля осуществляются лишь с помощью небольшой группы спутников и нескольких магнитных станций. Это практически исключает возможность оперативного диагностирования уровня геоиндуцированных токов для большей части арктической зоны РФ без развития продвинутых методов интеллектуального анализа крайне небольшого количества имеющихся данных.
Также, в Геофизическом центре РАН при помощи моделей машинного обучения анализируются накопленные большие массивы разнородных данных по наукам о Земле для прогноза пространственного распределения интересующих геолого-геофизических параметров.
Мне очень хочется, чтобы получило развитие использование искусственного интеллекта в медицине. На самом деле, уже вполне практические применения у этого есть, но есть и два противоречивых фактора. С одной стороны, мы видим, что с помощью ИИ медицинские данные можно обрабатывать и ставить диагнозы. Иногда это получается даже точнее, чем у врачей-людей. С другой стороны, есть определенный страх ошибки. Он влечет за собой большой бюрократический барьер перед широким применением ИИ в медицине. Эти опасения понятны, тем более, что ИИ развивается слишком стремительно. Тем не менее хочется, чтобы меры, которые позволят увеличить надежность и при этом не отказываться от такого мощного инструмента, были разработаны, и искусственный интеллект в медицину и в биомедицину был внедрен более широко.
В своей работе искусственным интеллектом мы пользуемся регулярно, причем на разных уровнях. Так, ChatGPT очень удобен вместо поисковика, ускоряет работу. Ему можно задать вполне конкретный вопрос, например, «какой триплетный уровень бензоат-аниона?» И он приведет весь диапазон данных, которые проанализирует по литературе, причем со ссылками. Даже смог выделить мою работу, когда я попросила.
Кроме того, часто нам приходится иметь дело с работой в смежных областях, какая-то быстрая консультация бывает тоже нужна. Естественно, потом все научные фактические данные мы проверяем, но он все равно помогает, экономя время.
Мы используем нейросети и в научной работе. Например, мы затеяли довольно большой масштабный проект по предсказанию оптимального люминофора для органических светодиодов на основе лантанидов. Уже большая работа проделана — большой анализ с помощью машинного обучения проведен, и есть первые результаты. В инфракрасной области мы уже умеем предсказывать свойства органических светодиодов по имеющимся свойствам материалов, которые были использованы при их создании. Работа будет продолжаться — перейдем в видимый диапазон. И надеюсь, что сможем потом перейти на люминофоры других классов. И это очень интересно!
Нейросети и ИИ все больше входят в нашу жизнь, и это закономерный процесс, который будет только усиливаться. В медицине — также. Уже сейчас есть обучаемые системы для определения по КТ, МРТ-снимкам или по морфологическим фотографиям опухолей разных локализаций. По аналитическим способностям, эффективности и точности эти системы уже начинают превосходить диагностов высокого уровня и далее они будут все более совершенствоваться. Их использование пока еще не вошло в клинические рекомендации, но это ожидается уже совсем скоро.
Также ИИ будет все чаще использоваться как система помощи в принятии врачебных решений, позволяющая анализировать множество клинических и лабораторных показателей пациента и выносить мотивированное мнение.
На научном уровне мы уже встраиваем в сбор и анализ результатов исследования нейросети и системы ИИ. Учитывая мультифакториальность современных исследовательских данных, это уже просто насущная необходимость, поскольку такие данные по-другому становится просто невозможно охватить.
Моя деятельность направлена скорее на создание новых средств ИИ, чем на их применение. А начал заниматься этим я еще будучи студентом матмеха Ленинградского университета. Первая моя публикация про распознавание образов и машинное обучение вышла в 1971 году.
Сегодняшнее развитие ИИ похоже на развитие персональных компьютеров: когда-то никто не знал, что это такое, а сейчас мы уже не можем без них обходиться.
Вопросы искусственного интеллекта уже давно интересуют научное сообщество. И, конечно же, давно существует практическое применение технологий, связанных с ИИ. В научном сообществе идет дискуссия, что можно считать искусственным интеллектом. Основной вопрос: достижимо в рамках существующего формата ИИ тех качеств и свойств, которые присущи классическому определению интеллекта? Возможно ли сравнивать ИИ с человеческим интеллектом? Какие критерии необходимо брать для сравнения?
Но, тем не менее, как бы мы ни считали, как бы мы ни спорили, сегодня актуальность технологий искусственного интеллекта неоспорима. Сейчас уже даже во многих веб-браузерах интегрирована система с элементами искусственного интеллекта. Я предполагаю, что в ближайшем будущем технологии искусственного интеллекта будут имплементироваться в существующие САПР (CAD/СAM система автоматизированного проектирования) или, в более широком формате, PDM и PLM-системы (проектирование и управление жизненным циклом). Это позволит существенно сократить время разработки сложных технических систем, эффективно управлять их жизненным циклом и, очевидно, внести существенный вклад в решение целевого конфликта между энергетической и экологической проблемами нашей цивилизации.
