Касперская перечислила риски искусственного интеллекта
Одной из ключевых проблем остается чрезмерное доверие к ИИ, которое нередко подпитывается его «хайповостью» и ожиданиями быстрого эффекта от применения технологии. Кроме того, эксперты все чаще обращают внимание на риски утечки данных, особенно в условиях внешнего давления и усиления цифровых угроз со стороны зарубежных игроков. Об этом на ЦИПР-2026 рассказала президент группы компаний InfoWatch Наталья Касперская. Ее слова приводит корреспондент «Ленты.ру».
Во время дискуссии модератор напомнила специалисту, что несколько лет назад она уже называла инструменты искусственного интеллекта переоцененными, и попросила подробнее объяснить, какие опасности в сфере промышленного ИИ сегодня остаются недооцененными. В ответ на это был поднят вопрос о том, что многие компании, стремясь быстрее внедрить новые решения, не всегда оценивают возможные последствия их использования для безопасности данных и устойчивости производственных процессов.
По словам Касперской, именно сочетание завышенных ожиданий, недостаточной проверки технологий и слабого контроля за информацией создает дополнительную зону риска. В промышленной среде такие ошибки могут привести не только к финансовым потерям, но и к сбоям в работе критически важных систем. Поэтому, как отмечают специалисты, при внедрении ИИ особенно важно соблюдать баланс между инновациями, практической пользой и требованиями к защите информации.
В последние годы искусственный интеллект стал одной из самых обсуждаемых тем в бизнесе, государственном управлении и повседневной жизни. Однако, по мнению Натальи Касперской, ажиотаж вокруг этой технологии нередко мешает трезво оценивать ее реальные возможности и ограничения. В таких условиях особенно важно отделять практическую пользу от моды и маркетингового шума.
«Переоцененные» и «много обсуждаются» — по сути, это одно и то же, считает она. По словам Касперской, высокий интерес к ИИ во многом объясняется именно модным трендом. «У нас технологии ИИ на хайпе, а я считаю, что принимать решения, когда что-то на хайпе, вообще неправильно», — отметила она, подчеркивая, что управленческие и стратегические решения должны опираться не на популярность темы, а на реальную оценку рисков и преимуществ.
Отдельно она обратила внимание на проблемы, связанные с применением генеративного ИИ в России. По ее словам, подавляющее большинство таких моделей, которые сегодня используются в стране, разработаны за рубежом. Среди отечественных решений, как выразилась Касперская, есть «одна, ну с натяжкой полторы собственных модели». Это, по ее мнению, создает серьезную зависимость от внешних технологий и ограничивает возможности безопасного внедрения ИИ в чувствительные сферы.
Особенно остро, считает она, этот вопрос стоит в промышленности и в организациях, работающих с конфиденциальными данными. Для таких задач, как правило, выбираются иностранные решения, а это может привести к утечке информации, если модель применяется вне собственного защищенного контура. Именно поэтому, по ее словам, важно не только использовать современные инструменты, но и понимать, где они разработаны, как обрабатывают данные и какие риски несет их интеграция в критически важные процессы.
Таким образом, Касперская призывает подходить к теме искусственного интеллекта максимально осторожно и прагматично. По ее мнению, развитие ИИ действительно открывает новые возможности, но вместе с тем требует серьезного контроля, технологической независимости и внимательного отношения к вопросам информационной безопасности.
В современных условиях использования искусственного интеллекта предприятия все чаще сталкиваются не только с удобством новых технологий, но и с серьезными рисками, связанными с утечкой данных. Особенно уязвимыми оказываются те компании, которые передают в нейросети подробные сведения о своих внутренних процессах, рассчитывая получить быстрый и точный аналитический результат. В таких случаях важно помнить, что любая информация, попавшая во внешнюю цифровую среду, может быть использована не только во благо, но и во вред.В качестве примера специалист привела ситуацию, когда одно из промышленных предприятий, стремясь проанализировать собственные внутренние процессы, поделилось с ИИ описанием своих технологических нюансов и производственных особенностей. Однако другое предприятие, как отметила Касперская, использовало «умный хитрый промт» и фактически смогло вытащить к себе все эти секреты и тонкости. Подобные случаи показывают, что даже обычный запрос к нейросети может обернуться утратой коммерчески ценной информации, если сотрудники не понимают, какие данные допустимо передавать в систему, а какие должны оставаться строго внутри компании.Еще один риск, по мнению Касперской, связан с тем, что «на той стороне» также могут действовать акторы, которые автоматически отслеживают запросы и анализируют их содержание. Если система понимает, что речь идет о российском предприятии, то ему могут специально подсовывать скомпрометированную или искаженную информацию. В результате пользователю будет казаться, что он получил корректный и полезный ответ, хотя на деле это может быть заранее сгенерированная ложь, подготовленная именно для введения компании в заблуждение. Такие угрозы особенно опасны, потому что их сложно сразу заметить: ошибка может выглядеть правдоподобно и долго оставаться незамеченной.Именно поэтому, считают эксперты в сфере информационной безопасности, компаниям необходимо выстраивать строгие правила работы с ИИ, ограничивать передачу чувствительных сведений и проверять любые полученные ответы через независимые источники. Только осторожный подход позволит использовать преимущества искусственного интеллекта без потери технологических секретов и без риска стать жертвой целенаправленной дезинформации.Еще один важный риск, на который обратила внимание Касперская, связан с тем, что модели искусственного интеллекта по своей природе являются вероятностными. Иными словами, они не дают абсолютных гарантий точности: иногда такие системы могут выдавать ответы, которые выглядят убедительно, но при этом не всегда соответствуют действительности. Именно поэтому подобные модели нередко называют «галлюцинирующими», поскольку полностью доверять каждому их выводу невозможно. На фоне растущего интереса к ИИ и его активного продвижения в бизнесе и обществе у людей и организаций нередко формируется чрезмерно высокий уровень доверия к технологии, что само по себе становится дополнительным источником риска.
При этом важно понимать, что даже самые современные генеративные системы остаются инструментом, который требует проверки, контроля и разумного применения. Их полезность в работе очевидна: они помогают ускорять подготовку текстов, анализировать данные, искать информацию и автоматизировать рутинные процессы. Однако если воспринимать их ответы как безусловную истину, можно столкнуться с ошибками, искажениями и неверными управленческими решениями. Поэтому, по сути, задача пользователей заключается не только в том, чтобы использовать ИИ, но и в том, чтобы уметь критически оценивать результат его работы.
Кроме того, Касперская отдельно подчеркнула проблему неконтролируемого использования генеративных моделей внутри компаний. По ее словам, нередко сотрудники по собственной инициативе приобретают доступ к различным ИИ-сервисам и начинают применять их для выполнения рабочих задач без согласования с руководством или службой безопасности. С одной стороны, это может повышать личную продуктивность работников, но с другой — создает серьезные угрозы для корпоративной информации, поскольку в такие системы могут попадать конфиденциальные данные, внутренние документы, коммерческие сведения и другая чувствительная информация.
Именно поэтому компаниям важно заранее выстраивать правила использования ИИ, определять допустимые сценарии его применения и обучать сотрудников базовым принципам цифровой безопасности. Без таких мер даже полезные технологии могут стать источником утечек, ошибок и репутационных потерь. В результате вопрос внедрения ИИ сегодня становится не только технологическим, но и организационным, правовым и этическим.
Переписанный текст:Эксперт отметила, что даже при наличии строгих внутренних ограничений со стороны самой компании риск утечки информации полностью исключить невозможно. Нередко сотрудники, руководствуясь добрыми намерениями и стремясь быстрее решить рабочие задачи, могут сами того не осознавая способствовать передаче данных за пределы организации. Именно поэтому вопросы информационной безопасности сегодня требуют не только технических мер, но и постоянного внимания к корпоративной культуре и осведомленности персонала.«Мы в нашей компании очень серьезно подошли к теме использования искусственного интеллекта в разработке. Чтобы понять реальную картину, мы провели внутренний опрос среди разработчиков: выясняли, какие инструменты и модели они применяют в работе. В опросе приняли участие около 150 сотрудников, и результаты оказались для нас неожиданными — мы увидели очень широкий набор сервисов и решений, о которых, честно говоря, даже не подозревали бы, если бы специально не поинтересовались», — рассказала она.По ее словам, именно такие внутренние исследования помогают компаниям лучше понимать, как на самом деле строятся рабочие процессы, какие цифровые инструменты используются и где могут возникать дополнительные риски. Чем активнее сотрудники применяют новые технологии, тем важнее своевременно выстраивать понятные правила их использования, чтобы сочетать удобство, скорость работы и защиту конфиденциальной информации.Говоря о возможностях искусственного интеллекта, прежде всего о впечатляющем ускорении многих процессов, Касперская подчеркнула, что вместе с преимуществами необходимо ясно видеть и обратную сторону технологии. По ее мнению, ИИ действительно способен заметно повышать эффективность работы, но это не отменяет того, что связанные с ним угрозы остаются серьезными и во многом пока недостаточно изученными. Она отметила, что сегодня особенно важно не поддаваться восторженному отношению к новым инструментам, а трезво оценивать их влияние на безопасность, качество решений и ответственность человека.
Касперская также обратила внимание на то, что обсуждение рисков искусственного интеллекта и способов их предотвращения началось сравнительно недавно, хотя сама тема ИИ уже давно находится в центре общественного внимания. Это, по ее словам, говорит о том, что профессиональному сообществу и разработчикам еще только предстоит выработать понятные подходы к контролю таких систем, правилам их применения и механизмам защиты от возможных ошибок. Важно не только создавать новые технологии, но и параллельно формировать культуру их безопасного использования.
Таким образом, как резюмировала Касперская, перед обществом и экспертами фактически открывается новая и пока не до конца изученная область, которую еще предстоит глубоко исследовать. Речь идет о той самой «двери», за которой скрываются как большие перспективы, так и немалые риски, требующие внимательного анализа, осторожности и продуманного регулирования.
Источник и фото - lenta.ru
