Новости

Apr 14, 2024

«Оппенгеймер» и риски ИИ в здравоохранении

Джунаид НабиАвг. 2, 2023 г. У всех великих историй сложный конец. Но это не значит, что они не могут предложить простые и поучительные уроки. Важнейшее произведение Кристофера Нолана «Оппенгеймер»

Джунаид НабиАвг. 2, 2023 г.

У всех великих историй сложный конец. Но это не значит, что они не могут предложить простые и поучительные уроки. Величайший опус Кристофера Нолана «Оппенгеймер» освещает трагическую историю «отца атомной бомбы». Но это также история о том, как Соединенные Штаты упустили возможность стать мировым лидером в разработке инноваций, которые определят 20-й век. Этот век будет определяться трансформационными технологиями – особенно искусственным интеллектом – и история Дж. Роберта Оппенгеймера предлагает особенно важные уроки для лидеров здравоохранения, предпринимателей и политиков.

Эпоха Оппенгеймера определялась гонкой ядерной энергетики, а наша определяется конкуренцией в технологиях искусственного интеллекта. Обе технологии являются мощными инструментами, которые изменят траекторию развития человечества. Еще одним сбивающим с толку сходством с эпохой Оппенгеймера является то, что политические силы, формирующие национальную политику вокруг инноваций, похоже, оторваны от нюансов науки или политизируют их. Из-за этого политиканства становится все труднее вести конструктивные разговоры о будущем инноваций в здравоохранении. Мы уже видим, как это происходит благодаря дезинформации о технологии мРНК и продолжающемуся преследованию ученых.

реклама

Между тем, более десятка медицинских компаний уже используют ChatGPT, чат-бот на базе искусственного интеллекта, разработанный OpenAI, для выполнения различных функций. Но мы не до конца понимаем последствия интеграции этих больших языковых моделей в функции здравоохранения. Удивительно, но многие из продолжающихся разговоров о разработке политики и регулирования ИИ были сосредоточены на лидерах технологической отрасли и не в полной мере использовали опыт лидеров отрасли здравоохранения, которые обладают уникальным пониманием применения ИИ в здравоохранении и медицине. Это напомнило мне яркую сцену из фильма «Оппенгеймер», в которой выдающийся ученый пытается убедить президента Трумэна в опасности ядерной энергетики, но его опасения отвергаются.

Внимание средств массовой информации к быстрому развитию технологий и обеспокоенность по поводу использования потребительских данных также оказывают давление на законодателей, требуя действовать. На прошлой неделе сенатор-республиканец Линдси Грэм и сенатор-демократ Элизабет Уоррен признали, что «Конгресс работает слишком медленно, ему не хватает технического опыта» и подчеркнули важность создания двухпартийного регулирующего органа посредством Закона о Комиссии по защите цифровых потребителей. Предлагаемая идея, похоже, больше ориентирована на крупные технологические компании, которые упускают из виду, почему эта защита необходима для приложений ИИ и усилий в здравоохранении. Исследования продолжают показывать, как инструменты машинного обучения могут привести к оказанию ненадлежащей медицинской помощи.

Ваша ежедневная порция новостей в области здравоохранения и медицины

История Оппенгеймера также продемонстрировала, насколько существует разрыв между целями науки — такими как прозрачность, сотрудничество и поиск истины — и политическими целями, которые всегда меняются. Понимание этого особенно актуально сейчас, поскольку общественность постоянно узнает о том, как ИИ изменит отрасли, включая здравоохранение.

реклама

Однако отсутствие ясности относительно того, как эти изменения повлияют на уход за пациентами, может привести к созданию атмосферы страха и недоверия, которая в конечном итоге может задушить инновации, поскольку здоровье гораздо более личное, чем экономика. Руководители здравоохранения, которые используют эти технологии для создания цифровых приложений, могут играть важную роль научных коммуникаторов, например, имея в своих коммуникационных материалах специальный раздел о том, чего пациенты должны ожидать от своих технологий.

Наконец, мы должны переориентировать наши усилия по цифровым инновациям на устранение разрывов в неравенстве в здравоохранении и предпринять шаги, чтобы не допустить дальнейшей маргинализации уязвимых групп населения. История Оппенгеймера также является напоминанием о страданиях, причиненных латиноамериканцам и индейцам Нью-Мексико во время «Тринити-теста». Недавние исследования уже демонстрируют, как цифровые алгоритмы в принятии решений в сфере здравоохранения могут усугублять неравенство. Предприниматели и политики в области медицинских технологий должны обеспечить реализацию всех необходимых стратегий смягчения предвзятости, включая развертывание репрезентативных наборов данных для создания цифровых приложений, чтобы избежать негативных последствий для пациентов, недостаточно обслуживаемых. Это также один из наиболее эффективных способов для предприятий цифрового здравоохранения укрепить доверие.