Zgodnie z śledztwem Sky News Lekarze używają oprogramowania AI, które nie spełnia minimalnych standardów do rejestrowania i transkrypcji spotkań pacjentów.
NHS Szefowie zażądali, aby GPS i szpitale przestały używać Sztuczna inteligencja Oprogramowanie, które może naruszyć zasady ochrony danych i narażać pacjentów.
Ostrzeżenie wysłane przez NHS England w tym miesiącu nastąpiło zaledwie kilka tygodni po tym, jak to samo ciało napisało do lekarzy o korzyściach wynikających z korzystania z AI do notewowania – aby umożliwić im więcej czasu na skoncentrowanie się na pacjentach – przy użyciu oprogramowania znanego jako technologia głosowa lub „AVT”.
Sekretarz Zdrowia Wes Streeting W przyszłym tygodniu AI stawił AI w centrum planu reform, aby uratować NHS w 10-letnim planie dla służby zdrowia w Anglii.
Ale rośnie kontrowersje wokół oprogramowania, które rejestruje, transkrybuje i podsumowuje rozmowy pacjentów za pomocą sztucznej inteligencji.
W kwietniu NHS Anglia napisała do lekarzy, aby sprzedać korzyści z AVT i ustalić minimalne standardy krajowe.
Jednak w liście widocznym przez Sky News szefowie NHS napisali do lekarzy, aby ostrzec, że niezatwierdzone oprogramowanie, które naruszyło minimalne standardy, może zaszkodzić pacjentom.
W liście 9 czerwca od NHS Clinical Information of NHS England powiedział: „Jesteśmy teraz świadomi wielu rozwiązań AVT, które pomimo niezgodności … nadal są szeroko stosowane w praktyce klinicznej.
„Kilku dostawców AVT zbliża się do organizacji NHS … wielu z tych dostawców nie spełniło podstawowych standardów zarządzania NHS.
„Postępowanie w zakresie rozwiązań niezgodnych ryzykuje bezpieczeństwo kliniczne, naruszenia ochrony danych, narażenie finansowe i fragmentacja szerszej strategii cyfrowej NHS”.
Sky News wcześniej ujawnił niebezpieczeństwo „halucynacji” sztucznej inteligencjitam, gdzie technologia składa odpowiedzi, leży na ich temat, co może okazać się niebezpieczne w warunkach opieki zdrowotnej.
Użyj przeglądarki Chrome, aby uzyskać bardziej dostępny odtwarzacz wideo
Czy Chatgpt jest niezawodny pomimo „halucynacji”?
NHS England określa minimalne standardy, ale nie mówi NHS Trusts i świadczeniodawcy opieki zdrowotnej, z których dostawców oprogramowania użyć.
Sky News może teraz ujawnić rosnącą presję na NHS Anglia, a podobne ciała były bardziej proaktywne.
Dr David Wrigley, zastępca przewodniczącego komitetu GP British Medical Association, powiedział: „Niewątpliwie jako lekarz ogólny i mój 35 000 kolegów, mamy tutaj obowiązki – ale na tak szybko rozwijającym się rynku, gdy nie mamy wiedzy technicznej, aby się tym zająć.
„Potrzebujemy tej pomocy i wsparcia od tych, którzy mogą sprawdzić, czy produkty są bezpieczne, sprawdź, czy są odpowiednie do użytku w sali konsultingowej, a NHS England powinien to zrobić, a także pomóc i wspierać”.
Dr Wrigley kontynuował: „Jesteśmy absolutnie za technologią i za podejście do pomocy pacjentom NHS, pomóc moim kolegom w ich operacjach.
„Ale należy to zrobić w bezpieczny sposób, ponieważ w przeciwnym razie moglibyśmy mieć za darmo – a potem dane mogłyby zostać utracone, może to być wyciek, a to po prostu nie jest akceptowalne.
„Więc nie jesteśmy dinozaurami, jesteśmy bardzo pro-AI, ale musi to być bezpieczny sposób”.
Szef Konfederacji NHS twierdzi, że list jest „naprawdę znaczącym momentem”
Widmo kilkudziesięciu mało znanych, ale ambitnych firm AI lobbujących szpitale i operacje, aby uzyskać instalowane produkty słuchowe, niepokoi niektórych pracowników służby zdrowia.
W tym technologicznym wyścigu zbrojeń można osiągnąć ogromne zyski, ale zadawane pytanie brzmi, czy można oczekiwać, że setki różnych organizacji NHS wysuną rekiny.
Matthew Taylor, dyrektor generalny Konfederacji NHS, powiedział, że list był „naprawdę znaczącym momentem”.
Powiedział, że NHS jest właściwe eksperymentowanie, ale musi być jasniejsze, co robi technologia, a nie działa bezpiecznie.
„Moim własnym zdaniem rząd powinien pomóc w pod względem decyzji dotyczących zamówień, które trusty podejmują i powinny doradzić, które systemy AI – podobnie jak inne formy technologii, których używamy w medycynie – które są bezpieczne” – powiedział Taylor.
„Potrzebujemy (rząd), aby zrobić nieco więcej, aby poprowadzić NHS w najlepszy sposób, aby to wykorzystać”.
Kiedy naciskał, czy w krótkim okresie, który faktycznie brzmi, jakby może być dość niebezpieczny, pan Taylor odpowiedział: „To, co widziałeś z technologią głosu otoczenia, to takie podejście„ niech tysiąc kwiatów ”ma swoje granice”.
Użyj przeglądarki Chrome, aby uzyskać bardziej dostępny odtwarzacz wideo
Ojciec chrzestny ostrzega przed jego niebezpieczeństwem
Na początku tego roku sekretarz zdrowia wydawał się sugerować, że używana była niezatwierdzona technologia – ale świętował ją jako znak, że lekarze byli entuzjastyczni zmian.
Pan Streeting powiedział: „Słyszałem anegdotycznie w pubie, naprawdę w pubie, że niektórzy klinicyści wyprzedzają grę i już używają ambient AI, aby nagrywać notatki i rzeczy, nawet tam, gdzie ich praktyka lub zaufanie jeszcze ich nie dogoniły.
„Teraz, wiele problemów – nie zachęcają do tego – ale mówi mi, że wbrew temu:„ Och, ludzie nie chcą się zmieniać, personel są bardzo szczęśliwi i są naprawdę odporni na zmiany ”, jest odwrotnie. Ludzie płaczą o te rzeczy”.
Przeczytaj więcej od Sky News:
Krajowe dochodzenie rozpoczęte w zakresie usług macierzyńskich
Każde dziecko w Wielkiej Brytanii do otrzymania testów DNA
GP Anil Mehta twierdzi, że oprogramowanie AI pomaga wyciąć dokumenty, a pacjenci są „wyjątkowo uspokojeni”
Lekarze, którzy korzystają z sztucznej inteligencji, która jest już zgodna ze standardami krajowymi, twierdzą, że istnieją duże korzyści.
Anil Mehta, lekarz w okręgu wyborczym Ilford Sekretarza Zdrowia, powiedział Sky News, że poparł dążenie do posła, aby uzyskać więcej technologii AI w opiece zdrowotnej.
„Spędzam 30% tygodnia robiąc dokumenty” – powiedział. „Więc myślę, że kiedy wyjaśniłem wszystkie te funkcje tego, co robimy, pacjenci są wyjątkowo uspokojeni. I nie spotkałem się z nikim, kto nie chciał, żeby mnie to zrobił.
Dodał: „(Ja) uważa, że konsultacje z lekarzem są wyjątkowo poufne, więc to wcale się nie zmieniło.
„To pozostaje poufne – więc niezależnie od tego, czy jest to wrażliwy dorosły, wrażliwe dziecko, nastolatek, małe dziecko z rodzicem, myślę, że koncepcja tej poufności pozostaje”.
Rzecznik NHS powiedział: „Technologia głosowa w otoczeniu może przekształcić opiekę i poprawić wydajność, aw kwietniu NHS wydało wytyczne, aby wesprzeć jego zastosowanie w bezpieczny sposób.
„Współpracujemy z organizacjami NHS i dostawcami, aby zapewnić, że wszystkie produkty z technologii głosowej w Agentalnych stosowane w służbie zdrowia nadal są zgodne ze standardami NHS w zakresie bezpieczeństwa klinicznego i bezpieczeństwa danych”.
