Rámec vyvinutý v Lausanne dokumentuje data, kód a hodnocení, aby bylo používání jazykových modelů ve zdravotnictví snadněji kontrolovatelné.

Zdravotnictví je jednou z oblastí, kde je přijetíumělá inteligence a velká data Postupuje se s větší opatrností, ne z nedostatku zájmu, ale proto, že chyba má pro lidi přímé důsledky. Modely s velkými jazyky se již používají nebo testují na podporu práce lékařů: mohou pomoci s diagnózou, shrnout klinickou dokumentaci, navrhnout priority nebo asistovat při rozhodování na pohotovosti. Kritickým bodem však zůstává ověřitelnost. Pokud systém vydá doporučení, aniž by zpřístupnil svá data, metody a školicí kritéria, nezávislá kontrola se stává křehkou.

Právě v tomto bodě zasahuje MeditronFO, oznámenýÉcole Polytechnique Fédérale de LausannePodle Univerzity ve Vaudu se jedná o první zcela otevřený rámec pro stavbu lékaři s velkým jazykovým modelemDůraz se neklade pouze na dostupnost finálního modelu, ale na celý vývojový řetězec: data, kód, školicí postupy, dokumentaci a hodnocení. V regulovaném, citlivém a odpovědném odvětví je tento rozdíl významný.

Projekt se zrodil v roce Laboratoř pro inteligentní technologie globálního zdraví a humanitární reakce, no no come Světlo, v rámci Fakulty informatiky a komunikačních věd na EPFL. Technickým základem je otevřený model, který již používá Meditron a byl vydán v roce 2023, ale nyní prezentovaný vývoj si klade za cíl zprůhlednit celou metodu konstrukce. Stanoveným cílem je umožnit „medikalizaci“ základních otevřených modelů, tj. jejich adaptaci na oblast zdravotní péče prostřednictvím klinických znalostí, zdokumentovaných datových sad a specifických validačních postupů.

Proč má otevření větší váhu než jen vydání modelu

V žargonu umělé inteligence se slovo „otevřený“ často používá nekonzistentně. Model může zpřístupnit váhy, ale datové sady, kroky filtrování, možnosti školení nebo hodnotící protokoly zůstávají neprůhledné. Pro klinické použití tato částečná otevřenost vytváří problém s auditem: nemocnice, výzkumníci, úřady a lékařská komunita sice mohou výsledky vidět, ale ne vždy dokážou rekonstruovat, jak byly získány.

MeditronFO snaží se tuto mezeru překlenout. Tento rámec byl aplikován na zcela otevřené základní modely, včetně OLMo, EuroLLM e OTEVŘENO, švýcarský model vyvinutý EPFL a ETH Zurich v rámci Švýcarské iniciativy pro umělou inteligenci. Tento krok je významný, protože přesouvá pozornost z izolovaného výkonu na sledovatelnost vývojeV medicíně může být znalost cesty, kterou systém ujde k reakci, stejně důležitá jako měření přesnosti samotné reakce.

Xavier Theimer-Lienhard, doktorand, který vede společnost Meditron na LiGHT, shrnuje tento princip přímým srovnáním klinického výcviku a modelového výcviku.

„Nikdy bychom nevěřili lékaři, jehož vzdělání by nebylo možné ověřit: stejný standard by měl platit pro umělou inteligenci ve zdravotnictví.“

Toto prohlášení objasňuje aspekt, který je v debatě o generativních systémech často přehlížen: spolehlivost se neshoduje s dostupností efektivního rozhraní. Místo toho vyžaduje dokumentaci, reprodukovatelnost a možnost kontroly. Problém se týká také bezpečnost a soukromí, protože modely zdravotní péče zpracovávají znalosti a data, které mohou hraničit s citlivými informacemi, a to i v případě, že přímo neobsahují identifikovatelné lékařské záznamy.

Otevřená složka sama o sobě neodstraňuje riziko zkreslení, chyb nebo zneužití. Snižuje však jednu z hlavních překážek nezávislé analýzy. Jinými slovy, automaticky nezaručuje klinickou bezpečnost, ale činí práci na ověřování, srovnávání a vylepšování konkrétnější.

Kliničtí lékaři zapojení do konstrukce, nejen do finálního testu

Charakteristickým rysem projektu je zapojení zdravotnických pracovníků od nejranějších fází. Podle EPFL byl MeditronFO vyvinut ve spolupráci s klinickými pracovníky zapojenými do výběru dat, validace výstupů a identifikace potenciálních kritických problémů. Tento přístup snižuje riziko vývoje formálně sofistikovaných nástrojů, které jsou špatně sladěny s každodenní praxí.

Validace také prochází MOOVE, což je zkratka pro Massive Open Online Validation and Evaluations (Masivní otevřená online validace a hodnocení), což je prostředí, jehož prostřednictvím se kliničtí lékaři podílejí na hodnocení a neustálém zlepšování modelů. Pro technologii navrženou pro interakci s reálnou medicínou je to klíčový bod: výzvou není jen správně odpovědět na otázku, ale učinit tak za podmínek podobných těm, ve kterých pracuje lékař, s časovým omezením, neúplnými informacemi a provozní odpovědností.

Tento rámec kombinuje veřejné lékařské datové soubory s klinicky posuzovanými syntetickými daty odvozenými z lékařských vyšetření, doporučení a případů pacientů z reálného světa. Zdroj EPFL také uvádí použití souboru klinických datových souborů sestavených odborníky z více než 46 000 klinických doporučeníToto je důležitý údaj, protože ukazuje rozsah dokumentace použité ke specializaci modelů, ale je nutné jej číst ve spojení s otázkou kvality: ve zdravotnictví není kvantita začleněných znalostí dostatečná, pokud není doprovázena výběrem, revizí a kontextualizací.

Mary-Anne Hartleyová, lékař a ředitel společnosti ,Světlo propojuje konkurenceschopnost modelů s aktivní rolí klinických lékařů a komunit.

„Naše zjištění ukazují, že konkurenceschopné lékařské modely lze vybudovat s aktivním zapojením lékařů a komunit.“

Tato změna má organizační důsledky. Lékařská umělá inteligence není prezentována jako nástroj, který by byl do systému zdravotní péče zaveden zvenčí, ale jako softwarová architektura, která má být vyvíjena ve spolupráci s odborníky obeznámenými s postupy, opakujícími se chybami, institucionálními omezeními a rozdíly mezi kontexty. Pro zdravotnické technologické společnosti, univerzitní centra a nemocnice je ponaučení jasné: přechod z centra ricerca a sviluppo Klinická praxe vyžaduje řízení, nejen výpočetní výkon.

Technické výsledky a role vysokého výpočetního výkonu Švýcarska

Pokud jde o výkon, EPFL uvádí, že každý model MeditronFO překonal svůj příslušný základní model. Nejlepší výsledek uvedený v tiskové zprávě se týká Apertus-70B-MeditronFO, což zlepšilo výsledky v lékařských testech 6,6 procentního bodu ve srovnání s podkladovým modelem. Data je třeba interpretovat s opatrností: benchmarky jsou užitečné pro porovnávání technických konfigurací, ale nenahrazují klinická hodnocení v reálném prostředí.

Průmyslový význam případu spočívá také v infrastruktuře, která jej podporuje. Vývoj MeditronFO byl podpořen Švýcarská iniciativa pro umělou inteligenci, spolupráce mezi EPFL, ETH Zurich a CSCS, Švýcarské národní superpočítačové centrum. Podle webových stránek iniciativy byl program spuštěn v prosinci 2023 a podílí se na něm více než 10 milionů hodin GPU na superpočítači Alps, který provozuje společnost CSCS, a s financováním z 20 milionů švýcarských franků Federální polytechnickou doménou.

Tato čísla ukazují, proč se konkurence v oblasti umělé inteligence ve zdravotnictví netýká jen algoritmů a datových sad. Vyžaduje výpočetní výkon, distribuované expertízy, hodnotící infrastruktury a kritické množství výzkumu. Samotná Švýcarská iniciativa pro umělou inteligenci tvrdí, že těží z příspěvků více než Výzkumníci 800, zahrnuta 70 profesorů se zaměřilo na umělou inteligenciz více než deseti akademických institucí v ŠvýcarskoV tomto čtvrtletí, il Superpočítač Není to jednoduchý technický urychlovač, ale součást vědecké suverenity.

Spojení s Apertusem tuto interpretaci také posiluje. Webové stránky projektu jej popisují jako plně otevřený základní model pro suverénní umělou inteligenci, vyvinutý Švýcarskou iniciativou pro umělou inteligenci ve spolupráci s EPFL, ETH Zurich a CSCS. Apertus prohlašuje otevřenost ve svých vahách, datech, kódu, metodách a principech zarovnání. MeditronFO využívá tento základ jako jeden z modelů pro specializaci v oblasti medicíny a demonstruje, jak může upstreamový přístup k otevřenosti generovat lépe kontrolovatelné vertikální aplikace.

Od experimentů k oddělením, testovacímu poli v Tanzanii

Dalším krokem nebude jen porovnání nových modelů. Podle EPFL tým připravuje klinické studie na několika místech, od Švýcarsko vše Tanzanie, aby vyhodnotili, jak lékaři používají umělou inteligenci v reálném zdravotnickém prostředí. Studie budou sledovat, zda lékaři dodržují, nebo odmítají vygenerovaná doporučení a jak tato rozhodnutí ovlivňují péči o pacienty.

Víceletý projekt zmíněný EPFL, s názvem MED.POUŽITÍ, si také klade za cíl pochopit, zda umělá inteligence může pomoci zlepšit kvalitu péče snížením zbytečných léčebných postupů a intervencí. Jedná se o delikátní oblast: systém podpory rozhodování může být užitečný, pokud zlepšuje kvalitu dostupných informací, ale může se stát problematickým, pokud zavádí automatizaci nebo podporuje nadměrnou důvěru v algoritmická doporučení.

Hartley konkrétně vyzývá k nutnosti měřit účinek v léčebných postupech, nejen v technických testech.

„Je důležité získat zpětnou vazbu z reálného světa založenou na výsledcích léčby pacientů.“

Klinická umělá inteligence bude důvěryhodnější, až ji bude možné kontrolovat

Pro sektor zdravotnictví MeditronFO navrhuje jasný směr: klinická umělá inteligence bude důvěryhodnější, když ji budou moci kontrolovat, adaptovat a hodnotit nezávislé komunity. Pro firmy to znamená, že proprietární modely se budou muset vypořádat s rostoucími očekáváními transparentnosti. Pro instituce se problém týká schopnosti definovat pravidla, která rozlišují mezi formální a skutečnou otevřeností.

Je nerealistické si myslet, že všechny lékařské systémy založené na strojové učení e hluboké učení stát se zcela otevřenými. Je však pravděpodobné, že zdravotnictví bude vyžadovat vyšší standardy dokumentace, auditovatelnosti a odpovědnosti, zejména pokud umělá inteligence vstoupí do oblastí rozhodování. V tomto smyslu by MeditronFO neměl být vnímán pouze jako nový model, ale jako experiment v technické správě: zviditelňuje to, co často zůstává skryto za vygenerovanou odpovědí.

Klíčovou otázkou tedy není abstraktní příslib výkonnější umělé inteligence. Jde o typ infrastruktury, kterou systémy zdravotní péče, univerzity a regulační orgány hodlají akceptovat. Pokud se modely stanou součástí klinické praxe, důvěra musí být založena na ověřitelných prvcích: původ dat, nezávislé audity, transparentně měřený výkon a identifikovatelná lidská odpovědnost. MeditronFO staví tyto prvky do středu diskuse a ponechává na klinické studii, aby posoudila jejich provozní životaschopnost.

Meditron Open Sources: Auditovatelné pracovní postupy umělé inteligence pro klinické LLM

Zde jsou tři poznatky, které by vás mohly zajímat:

Od EPFL nový multimodální model pro flexibilnější AI
Apertus je švýcarská „otevřená umělá inteligence“ pro transparentnější budoucnost.
Špičkové centrum zdravotní péče v Ženevě založené výhradně na umělé inteligenci