ციფრული ჯანდაცვისა და ხელოვნური ინტელექტის პოლიტიკა
როგორ არეგულირებს ASF ხელოვნური ინტელექტის ინსტრუმენტებს საკუთარ სამუშაოში და რას მოითხოვს ASF-ის სტანდარტები იმ დაწესებულებებისგან, რომლებიც პაციენტის მოვლაში ხელოვნურ ინტელექტს იყენებენ
წინასიტყვაობა
ხელოვნური ინტელექტი ცვლის იმას, თუ როგორ მიეწოდება ჯანდაცვა, როგორ იქმნება დოკუმენტაცია და როგორ იწარმოება და აანალიზდება ხარისხის მტკიცებულებები. ASF ამ ცვლილებას არ გასცდება — ხელოვნური ინტელექტის ინსტრუმენტები გამოიყენება ASF-ის საკუთარ მუშაობაში შედგენის, მტკიცებულებების მიმოხილვისა და ადმინისტრაციული ფუნქციების დროს. ASF-ის მიერ აკრედიტებული დაწესებულებები სულ უფრო ხშირად იყენებენ ხელოვნურ ინტელექტს კლინიკური გადაწყვეტილების მხარდაჭერაში, დიაგნოსტიკურ გამოსახულებაში, პაციენტებთან კომუნიკაციასა და ადმინისტრაციულ პროცესებში.
ეს პოლიტიკა ორ განსხვავებულ კითხვას პასუხობს. პირველი: რა სტანდარტები არეგულირებს ხელოვნური ინტელექტის ინსტრუმენტების გამოყენებას ASF-ის საკუთარ სამუშაოში — სტანდარტების შემუშავებაში, შემფასებლის ანგარიშგებაში და მმართველობაში? მეორე: რას მოითხოვს ASF-ის გამოქვეყნებული სტანდარტები იმ დაწესებულებებისგან, რომლებიც კლინიკურ მოვლაში ხელოვნურ ინტელექტს იყენებენ, და რა ვადებში?
ეს სხვადასხვა კითხვებია და სხვადასხვა პასუხს მოითხოვს. სტანდარტის კრიტერიუმის შედგენაში დამხმარე ხელოვნური ინტელექტის ინსტრუმენტი აჩენს სიზუსტის, ავტორობისა და ინტელექტუალური საკუთრების კითხვებს. კლინიკური გადაწყვეტილების მხარდაჭერაში გამოყენებული ინსტრუმენტი აჩენს პაციენტის უსაფრთხოების, პასუხისმგებლობისა და ადამიანის ზედამხედველობის კითხვებს. ეს პოლიტიკა ორივეს მოიცავს, მკაფიოდ გამიჯნულად.
1. საერთაშორისო ჩარჩო
ეს პოლიტიკა დაფუძნებულია:
- EU AI Act (Regulation 2024/1689) — ვრცელდება საფრანგეთში რეგისტრირებულ სუბიექტებზე; ათავსებს ჯანდაცვის ხელოვნური ინტელექტის სისტემებს მაღალი რისკის კატეგორიაში; მაღალი რისკის სისტემებისთვის მოითხოვს გამჭვირვალობას, ადამიანის ზედამხედველობასა და შესაბამისობის შეფასებას [1]
- WHO Guidance on Ethics and Governance of Artificial Intelligence for Health (2021) — ექვსი პრინციპი: ადამიანის ავტონომია, ადამიანის კეთილდღეობა და უსაფრთხოება, გამჭვირვალობა, ანგარიშვალდებულება, თანასწორობა, მდგრადობა [2]
- OECD Principles on AI (2019) — ინკლუზიური ზრდა, ადამიანზე ორიენტირებული ღირებულებები, გამჭვირვალობა, მდგრადობა და უსაფრთხოება, ანგარიშვალდებულება [3]
- ISQua Note on AI in Accreditation (2025) — მოუწოდებს აკრედიტაციის ორგანოებს, მიმართონ ხელოვნურ ინტელექტს თავიანთ სტანდარტებში და იყვნენ გამჭვირვალენი ხელოვნური ინტელექტის გამოყენებაში საკუთარ საქმიანობაში [4]
- Council of Europe Framework Convention on AI and Human Rights (CETS 225, 2024) — ხელოვნური ინტელექტის შესახებ პირველი სავალდებულო საერთაშორისო ხელშეკრულება; რატიფიკაციაში შედის საფრანგეთი [5]
2. ხელოვნური ინტელექტი ASF-ის საკუთარ საქმიანობაში
2.1 სტანდარტების შემუშავება
ხელოვნური ინტელექტის ინსტრუმენტები შეიძლება გამოყენებულ იქნას სტანდარტების შემუშავებაში: ლიტერატურის ძიებისა და მტკიცებულებების რუკებისთვის; კრიტერიუმის ტექსტის შედგენაში დახმარებისთვის (ადამიანი ექსპერტის შემოწმებისა და დამტკიცების დაქვემდებარებით); თარგმანში დახმარებისთვის (ადამიანი მთარგმნელის შემოწმების დაქვემდებარებით); და ადმინისტრაციული ფუნქციებისთვის, როგორიცაა კომენტარების ჟურნალის მართვა.
ხელოვნური ინტელექტის ინსტრუმენტები არ შეიძლება გამოყენებულ იქნას არც ერთი კრიტერიუმის, სახელმძღვანელო შენიშვნის ან მტკიცებულების შეფასების ერთადერთ ან ძირითად ავტორად. ყოველი გამოქვეყნებული კრიტერიუმი უნდა დაამტკიცოს საბჭოს ან გადასინჯვის პანელის ადამიანმა წევრმა, რომელსაც შესაბამისი სფეროს ექსპერტიზა აქვს და რომელიც პირადად აგებს პასუხს მის სიზუსტესა და შესაბამისობაზე. ხელოვნური ინტელექტის დახმარების გამოყენება შედგენაში ცხადდება გადასინჯვის დოკუმენტში.
2.2 შემფასებლის ანგარიშგება
შემფასებლებს შეუძლიათ გამოიყენონ ხელოვნური ინტელექტის ინსტრუმენტები შეფასების ანგარიშების შედგენაში დასახმარებლად — გრამატიკის, სტრუქტურისა და მარტივი ენისთვის — მაგრამ შეფასების ანგარიშში ყოველი დასკვნა და დასკვნა უნდა ეფუძნებოდეს შემფასებლის პირად პირდაპირ დაკვირვებას, დოკუმენტების მიმოხილვასა და ინტერვიუს. ხელოვნური ინტელექტის ინსტრუმენტებმა შეიძლება არ შექმნან დასკვნები. შემფასებელი პირადად აგებს პროფესიულ პასუხისმგებლობას მის მიერ წარდგენილი ანგარიშის სიზუსტესა და სისრულეზე. სადაც ანგარიშის შედგენაში გამოიყენება ხელოვნური ინტელექტის დახმარება, ეს ცხადდება ანგარიშში.
2.3 მმართველობა და ადმინისტრირება
ASF-ის მმართველობაში გამოყენებული ხელოვნური ინტელექტის ინსტრუმენტები — შეხვედრების მართვისთვის, დოკუმენტების კონტროლისთვის ან კომუნიკაციისთვის — უნდა შეესაბამებოდეს ASF-ის მონაცემთა დაცვის პოლიტიკას (ASF-DATAPROTECT-001-v1) და IT და მონაცემთა უსაფრთხოების პოლიტიკას. საბჭოს წევრების, შემფასებლებისა და დაწესებულებების საკონტაქტო პირების პერსონალური მონაცემები ხელოვნური ინტელექტის ინსტრუმენტებით არ შეიძლება დამუშავდეს GDPR-ის შესაბამისი სამართლებრივი საფუძვლისა და დასრულებული მონაცემთა დაცვის გავლენის შეფასების გარეშე.
EU AI Act მოითხოვს, რომ მაღალი რისკის ხელოვნური ინტელექტის სისტემები — რომელიც მოიცავს კლინიკური გადაწყვეტილების მხარდაჭერას — იყოს გამჭვირვალე და ქმნიდეს საკმარისად ახსნად შედეგებს, რათა შესაძლებელი იყოს ადამიანის ზედამხედველობა. სისტემა, რომელიც დიაგნოსტიკურ რეკომენდაციას ახსნადი საფუძვლის გარეშე იძლევა, კლინიცისტს ვერ შეაფასებს არსებითად. ASF-ის კლინიკური ხელოვნური ინტელექტის ზედამხედველობის კრიტერიუმი (იხ. ზემოთ) კონკრეტულად მოითხოვს, რომ დაწესებულებამ შემფასებელს მოთხოვნისას დაუმტკიცოს, რომ კლინიკური გადაწყვეტილების მხარდაჭერაში გამოყენებული ნებისმიერი ხელოვნური ინტელექტის სისტემა ქმნის შედეგს, რომელიც მოიცავს იმ ფაქტორების ახსნას, რომლებმაც რეკომენდაცია განაპირობა, იმ ტერმინებით, რომლითაც კლინიცისტს შეუძლია შეაფასოს საკუთარი კლინიკური მსჯელობის მიხედვით. „შავი ყუთის“ ტიპის სისტემა, რომლის შედეგებიც არ იხსნება, ASF-აკრედიტებულ დაწესებულებაში კლინიკური გადაწყვეტილების მხარდაჭერაში არ შეიძლება გამოყენებულ იქნას კონკრეტული დოკუმენტირებული რისკის შეფასებისა და პაციენტის თანხმობის გარეშე.
ხელოვნური ინტელექტით შექმნილი სინთეზური აუდიო, ვიდეო და ტექსტი (“დიპფეიკები”) ტელემედიცინაში კონკრეტულ რისკს წარმოადგენს — პაციენტს არ შეუძლია საიმედოდ შეამოწმოს, რომ მასთან მოლაპარაკე კლინიცისტი სწორედ ის პირია, ვისაც ის ეჩვენება, ან რომ ხელოვნური ინტელექტით შექმნილი შეტყობინება ნამდვილად მისი ჯანდაცვის მიმწოდებლისგან მოდის. ASF-ის ტელემედიცინის სტანდარტის პაციენტის იდენტიფიკაციისა და პლატფორმის საიმედოობის კრიტერიუმები ამ რისკს პლატფორმის დონის გადამოწმებით აგვარებს. ტელემედიცინის სტანდარტის შემდეგი გადასინჯვა დაამატებს მკაფიო კრიტერიუმს, რომელიც დაწესებულებებს დააკისრებს პაციენტისთვის გამჟღავნებას, როცა სინთეზური ან ხელოვნური ინტელექტით შექმნილი შინაარსი გამოიყენება პაციენტთან ნებისმიერ კომუნიკაციაში, და უზრუნველყოფს, რომ ხელოვნური ინტელექტით შექმნილი შინაარსი არ გამოიყენება კონკრეტული კლინიცისტის კომუნიკაციის სიმულაციისთვის ამ კლინიცისტის მკაფიო თანხმობისა და პაციენტის ინფორმირების გარეშე.
ხელოვნური ინტელექტის სისტემები, რომლებიც გამოიყენება ICD-10/ICD-11 დიაგნოსტიკურ კოდირებაში, პროცედურების კოდირებაში ან ანგარიშსწორების კლასიფიკაციაში, მაღალი რისკის გამოყენებაა: კოდირების შეცდომები გავლენას ახდენს სადაზღვევო მოთხოვნებზე, ეპიდემიოლოგიურ მონაცემებზე და შესაძლოა პაციენტის მოვლის მარშრუტებზეც. ყოველ დაწესებულებას, რომელიც კლინიკური კოდირებისთვის იყენებს ხელოვნურ ინტელექტს, უნდა ჰქონდეს დოკუმენტირებული ადამიანის შემოწმების პროცესი, რომელშიც კვალიფიციური კლინიკური კოდირების სპეციალისტი ხელოვნური ინტელექტით შექმნილ კოდებს შემოწმებას და დაამტკიცებს წარდგენამდე. კოდირების ხელოვნური ინტელექტი არ შეიძლება გამოყენებულ იქნას ანგარიშსწორების წარდგენის ერთადერთ საფუძვლად. ეს მოთხოვნა შევა საავადმყოფოს სტანდარტსა და ამბულატორიული კლინიკის სტანდარტში შემდეგ გადასინჯვის ციკლში.
პაციენტის საინფორმაციო ბროშურები, გაწერის ინსტრუქციები და საგანმანათლებლო მასალები, რომლებიც ხელოვნური ინტელექტის ინსტრუმენტებით შეიქმნა ან შედგა, პაციენტებისთვის გავრცელებამდე კვალიფიციურმა კლინიცისტმა უნდა შეამოწმოს და დაამტკიცოს. ხელოვნური ინტელექტით შექმნილ პაციენტის მასალებს, რომლებიც კლინიკურ ინფორმაციას შეიცავს — დოზირების ინსტრუქციებს, უკუჩვენებებს, სიმპტომების გამაფრთხილებელ ნიშნებს — არაზუსტობის შემთხვევაში პაციენტის უსაფრთხოების რისკი აქვს. ASF-ის 152 პაციენტის საინფორმაციო ბროშურა შექმნილია ადამიანების მიერ და მათ კლინიკური ექსპერტები ამოწმებენ; მათი შედგენის ან განახლების ნებისმიერი ხელოვნური ინტელექტის დახმარება ექვემდებარება იმავე ადამიანის ექსპერტის შემოწმების მოთხოვნას, როგორიც არის 2.1 მუხლში კრიტერიუმების შედგენისთვის. ეს ვრცელდება როგორც აკრედიტებული დაწესებულებების, ისე ASF-ის მიერ შექმნილ მასალებზე.
3. ხელოვნური ინტელექტის კრიტერიუმები ASF-ის გამოქვეყნებულ სტანდარტებში
ASF-ის ტელემედიცინის სტანდარტი უკვე შეიცავს კრიტერიუმებს ტექნოლოგიური პლატფორმის საიმედოობის, უსაფრთხოებისა და მონაცემთა კონფიდენციალურობის შესახებ (სტანდარტები 1 და 6). ეს კრიტერიუმები ვრცელდება ხელოვნური ინტელექტით მომუშავე ტელემედიცინის პლატფორმებზე. შემდეგი დამატებითი ხელოვნური ინტელექტის სპეციფიკური ვალდებულებები ვრცელდება ყველა ASF-ის სტანდარტზე:
ნებისმიერ ხელოვნური ინტელექტის სისტემას, რომელიც გამოიყენება კლინიკური გადაწყვეტილების მხარდაჭერაში — დიაგნოსტიკური გამოსახულების ხელოვნური ინტელექტი, სეფსისის პროგნოზირება, მედიკამენტების დოზირების ალგორითმები, ტრიაჟის ქულები — უნდა ჰქონდეს დოკუმენტირებული ადამიანის ზედამხედველობის პროცესი, რომელშიც კვალიფიციური კლინიცისტი შეამოწმებს და პასუხისმგებლობას აიღებს ხელოვნური ინტელექტით შექმნილ ყოველ რეკომენდაციაზე, სანამ ის კლინიკურ გადაწყვეტილებაზე იმოქმედებს. საავადმყოფოსა და ამბულატორიული სტანდარტების შემდეგი გადასინჯვა ამას მკაფიო კრიტერიუმად შემოიღებს. EU AI Act-ის შესაბამისად, რომელიც კლინიკური გადაწყვეტილების მხარდაჭერას მაღალი რისკის ხელოვნურ ინტელექტად ათავსებს, ზედამხედველობის დოკუმენტაცია შემფასებლისთვის მოთხოვნისას ხელმისაწვდომი უნდა იყოს.
პაციენტებს აქვთ უფლება, იცოდნენ, როცა მათ მოვლაზე მოქმედი გადაწყვეტილებისას გამოყენებულია ხელოვნური ინტელექტის სისტემა. ეს ვრცელდება დიაგნოსტიკურ ხელოვნურ ინტელექტზე, მკურნალობის რეკომენდაციის სისტემებზე და ადმინისტრაციულ ხელოვნურ ინტელექტზე, რომელიც მოქმედებს ვიზიტების დაგეგმვასა თუ რესურსების განაწილებაზე. კრიტერიუმი შევა საავადმყოფოს სტანდარტის პაციენტის უფლებებისა და ინფორმაციის განყოფილების (სტანდარტი 2) შემდეგ გადასინჯვაში.
ხელოვნური ინტელექტის სისტემები, რომლებიც გაწვრთნილია მაღალი შემოსავლის, უპირატესად მამრობითი ან ეთნიკურად ერთგვაროვანი პოპულაციის მონაცემებზე, შეიძლება სისტემატურად მიკერძოებულ შედეგებს იძლეოდეს, როცა გამოიყენება იმ პოპულაციებზე, რომელთაც ASF-აკრედიტებული დაწესებულებები ემსახურებიან. დაწესებულებებმა, რომლებიც კლინიკური გადაწყვეტილების მხარდაჭერაში ხელოვნურ ინტელექტს იყენებენ, უნდა დააფიქსირონ გაწვრთნის მონაცემების წყარო, ვალიდაციის პოპულაცია და პაციენტთა ქვეჯგუფებს შორის ცნობილი შედეგების სხვაობები. ეს კრიტერიუმი შევა ყველა შესაბამის სტანდარტში შემდეგ გადასინჯვის ციკლში.
4. განხორციელების გრაფიკი
ლიტერატურა
- European Union. Regulation (EU) 2024/1689 of the European Parliament and of the Council (AI Act). Brussels: EU; 2024.
- World Health Organization. Ethics and Governance of Artificial Intelligence for Health. Geneva: WHO; 2021.
- OECD. Recommendation of the Council on Artificial Intelligence. Paris: OECD; 2019.
- ISQua. ISQua Note on Artificial Intelligence in Healthcare Accreditation. Dublin: ISQua; 2025.
- Council of Europe. Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law (CETS 225). Strasbourg: Council of Europe; 2024.
წინასიტყვაობა
1. საერთაშორისო ჩარჩო
2. ხელოვნური ინტელექტი ASF-ის საკუთარ სამუშაოში
ახსნადობის მოთხოვნა
დიპფეიკები პაციენტებთან კომუნიკაციაში
ხელოვნური ინტელექტი კლინიკურ კოდირებაში
ხელოვნური ინტელექტით შექმნილი პაციენტის მასალები
3. ხელოვნური ინტელექტის კრიტერიუმები სტანდარტებში
4. განხორციელების გრაფიკი
ლიტერატურა