Новий симулятор та етичні межі використання ШІ у навчанні медиків: кафедра біофізики, медичної апаратури та інформатики провела незвичайну пару

Особлива лекція, присвячена етиці використання штучного інтелекту (ШІ) в процесі навчання, відбулась 18 березня для першокурсників медичного та фармацевтичного факультетів. Почалась вона з презентації симулятора — власної розробки кафедри біофізики, медичної апаратури та інформатики ВНМУ.

Система створювалась для навчання студентів 4-5-го курсів, які опановують спеціальність гінеколога. Вона моделює процес обстеження й лікування вагітної пацієнтки: збір анамнезу, фізикальний огляд, апаратний моніторинг, імітацію застосування лікарських засобів. За результатами роботи на кількох етапах студент заповнює тестові форми, а наприкінці отримує загальну оцінку.

Така система стане сучасним доповненням навчального процесу і одним із підтверджень спроможності успішного виконання на базі ВНМУ проєкту ERASMUS+ Digi-CHange, який передбачає широке впровадження сучасних цифрових технологій до освітніх компонентів. І саме результативна цифровізація процесу навчання є підтвердженням спроможності лідерства ВНМУ у Digi-CHange, адже наш університет є національним координатором проєкту в Україні.

Розробник симулятора, доцент кафедри Олександр Нікольський, розповів, що для створення експертної системи користувався кількома моделями штучного інтелекту, зокрема Gemini підготував навчальну вибірку зі 100 реальних клінічних сценаріїв.

У розробці також використані висновки й побажання студентів: за словами в.о. завкафедри Володимира Дідича, працюючи в рамках вибіркової дисципліни «Штучний інтелект для фармацевтів» з різними системами машинного інтелекту, здобувачі освіти отримують навички такої взаємодії, уявлення щодо можливостей і особливостей певних моделей — і цей емпіричний матеріал корисний для створення навчальної програми.

Продовженням заходу стала практична робота «Штучний інтелект у медицині та фармації», присвячена проблемі етичності використання ШІ у навчанні медиків: студенти й викладачі обговорювали, де проходить межа між ШІ-помічником та підміною ним людини. За визначенням Олександра Івановича, «Штучний інтелект — не заміна людського інтелекту, а його розширення; але в медицині помилка алгоритму вартує значно дорожче, ніж у інших сферах».

Головним принципом етики стає «Не зашкодь», тобто ШІ має бути технологією та інструментом збільшення можливостей, але не заміною клінічного мислення. Наслідки другого підходу —  втрачання лікарем здатності самостійно діагностувати та приймати рішення, загублення людяного ставлення до пацієнта.

Основними етичними ризиками й викликами є такі:

• відповідальність за здоровʼя та життя людини, яку в разі помилки алгоритму та шкоди пацієнту несе лікар;
• залежність від використання ШІ нівелює базову професійну підготовку, веде до втрати (або ненабуття) фахових компетенцій;
• втрата емпатії;
• застосування ШІ як швидкої відповіді створює ілюзію знання, але вбиває дослідницькі навички;
• втрата вмінь самостійної роботи з базами медичних знань;
• так звана бульбашка фільтрів: ШІ схильний ігнорувати рідкісні клінічні випадки чи суперечливі дані, тож дослідник не отримує вичерпної інформації;
• атрофія критичного мислення;
• порушення принципів академічної доброчесності, зокрема прихований плагіат.

Натомість перевагами застосування штучного інтелекту у наукових дослідженнях є здатність до генерації та формулювання нових ідей, ефективність пошуку актуальних джерел і швидкість обробки великих масивів інформації, створення візуальних матеріалів, допомога з перевіркою та перекладом тексту.

Окрему увагу Олександр Іванович приділив аспекту порушення конфіденційності даних і ризикам деанонімізації, докладно пояснивши студентам, як використовувати для роботи із ШІ синтетичні дані.

Час промайнув непомітно: як презентація, так і лекція добре відгукнулись слухачам. Було багато питань і обговорень, обміну думками. Щодо нового симулятора, то він, за словами Володимира Дідича, невдовзі буде впроваджений у навчальний процес, а ще подібна система зараз розробляється фахівцями кафедри для навчання майбутніх терапевтів.

Медіацентр ВНМУ