Assessment of Non-High Risk: upmedic AI scribe

Wersja dokumentu: 1.0 Dostawca systemu: upmedic sp. z o.o. Nazwa systemu: upmedic asystent lekarza AI

1. Opis Przeznaczenia Systemu (Intended Purpose)

System upmedic jest inteligentnym asystentem dokumentacji medycznej. Jego wyłącznym celem jest:

• Przekształcanie mowy w tekst (Speech-to-Text).

• Strukturyzacja tekstu medycznego (formatowanie, dopasowanie do szablonów).

• Automatyzacja procesów administracyjnych związanych z tworzeniem epikryz, kart pacjenta i opisów badań.

Ograniczenia systemowe: System nie jest wyrobem medycznym w rozumieniu rozporządzenia MDR (2017/745). Nie służy do diagnozowania, leczenia, zapobiegania chorobom ani wspomagania decyzji klinicznych. Każdy wygenerowany tekst wymaga autoryzacji przez wykwalifikowanego lekarza. Więcej informacji dostępnych w dokumencie MDR IVDR

2. Analiza Klasyfikacji według AI Act

A. Wykluczenie na podstawie Artykułu 6 ust. 1 (Załącznik II)

Zgodnie z Art. 6 ust. 1, systemy AI są uznawane za wysokie ryzyko, jeśli są wyrobem medycznym podlegającym certyfikacji przez jednostkę notyfikowaną (klasa IIa i wyższa).

• Uzasadnienie braku ryzyka: upmedic nie posiada statusu wyrobu medycznego i nie pełni funkcji diagnostycznych. Tym samym nie podlega pod wymogi certyfikacji MDR, co wyklucza go z tej kategorii wysokiego ryzyka.

B. Wykluczenie na podstawie Artykułu 6 ust. 2 (Załącznik III)

Załącznik III wymienia obszary wysokiego ryzyka (np. biometria, infrastruktura krytyczna, zatrudnienie, edukacja).

• Uzasadnienie braku ryzyka: upmedic nie wykonuje zadań wymienionych w Załączniku III. Choć działa w sektorze ochrony zdrowia, nie służy do oceny ryzyka pacjentów w celu ustalenia priorytetów dostępu do świadczeń (triage), co byłoby uznane za wysokie ryzyko.

C. Zastosowanie Artykułu 6 ust. 3 (Zasada wyjątku)

Nawet gdyby system został uznany za operujący w obszarze wrażliwym, upmedic spełnia przesłanki wyjątku, ponieważ:

1. Wykonuje zadanie pomocnicze o charakterze administracyjnym.

2. Służy jedynie do przygotowania dokumentacji, która jest w całości weryfikowana przez człowieka (lekarza).

3. Nie podejmuje samodzielnych decyzji mających wpływ na zdrowie lub prawa podstawowe osób fizycznych.

3. Wykazanie Kontroli i Minimalizacji Ryzyka

System został zaprojektowany w sposób minimalizujący ryzyko błędu algorytmicznego poprzez:

• Opcjonalność AI (Off-switch): Użytkownik ma techniczną możliwość całkowitego wyłączenia modułów sztucznej inteligencji i pracy w trybie edytora tekstu/szablonów.

• Mechanizm "Human-in-the-loop": System blokuje możliwość automatycznego zapisu dokumentu w systemie HIS/RIS bez uprzedniego wyświetlenia tekstu lekarzowi i uzyskania jego fizycznego potwierdzenia (kliknięcie "Zatwierdź").

• Przejrzystość (Transparency): Każda interakcja z AI jest poprzedzona informacją prawną (disclaimer), przypominającą o charakterze narzędzia jako asystenta językowego, a nie klinicznego.

4. Oświadczenie o Zgodności (Conclusion)

Na podstawie powyższej analizy, upmedic Sp. z o.o. klasyfikuje system upmedic jako system AI o ograniczonym ryzyku (Limited Risk AI System).

System ten podlega wyłącznie obowiązkom przejrzystości określonym w Artykule 50 AI Act, które są realizowane poprzez:

1. Informowanie lekarza o interakcji z AI.

2. Zapewnienie przejrzystości co do generatywnego charakteru tekstów.

3. Umożliwienie lekarzowi pełnej edycji i odrzucenia propozycji AI.