Dünaamiline mälu, mis leevendab meditsiinilise pildistamise abil katastroofilist unustamist pidevas õppimises

Kontakt: Audrey Hu Whatsapp/hp: 0086 13880143964 E-post:audrey.hu@wecistanche.com

Matthias Perkonigg1, Johannes Hofmanninger1, Christian J. Herold1, James A. Brink2, Oleg Pianykh2, Helmut Prosch1 ja Georg Langs1✉

Meditsiiniline pildistamine on kliinilise diagnoosimise ja ravijuhiste keskne osa. Masinõpe on muutunud üha olulisemaks, kuna see hõlmab haiguste ja ravivastuste tunnuseid, mis on olulised terapeutiliste otsuste tegemisel. Kliinilises praktikas takistavad kujutiste hankimise tehnoloogia või diagnostiliste protseduuride pidev areng, skannerite mitmekesisus ja arenevad pildistamisprotokollid masinõppe kasulikkust, kuna uute andmete ennustamise täpsus halveneb või mudelid vananevad nende domeeninihete tõttu. . Me pakume välja pideva õppimise lähenemisviisi, et tulla toime selliste domeeninihetega, mis toimuvad teadmata ajahetkedel. Kohandame mudeleid pideva andmevoo esilekerkivate variatsioonidega, tõrjudes samal ajal katastroofilist unustamist. Dünaamilinemäluvõimaldab harjutada erinevate koolitusandmete alamhulka, et leevendada unustamist, võimaldades samas mudelitel laieneda uutele valdkondadele. Tehnika tasakaalustabmälutuvastades pseudodomeenid, mis esindavad andmevoos erinevaid stiiliklastreid. Kahe erineva ülesande hindamine, südame segmenteerimine magnetresonantstomograafias ja kopsusõlmede tuvastamine kompuutertomograafias, näitavad meetodi järjepidevat eelist.

Cistanche võib parandada mälu

Süvaõppe (DL) algoritmid muutuvad meditsiinilises pildistamises kiiresti tähtsusetuks, võimaldades diagnoosimise, prognoosimise või prognoosimise seisukohalt oluliste anatoomiliste struktuuride ja anomaaliate4 arvutuslikku segmenteerimist1,2, klassifitseerimist või tuvastamist3. Mõnel juhul ületavad nende võimalused isegi inimekspertide oma5,6, muutes need keskseks vahendiks pildiandmete kasutamise edendamisel diagnoosimisel ja raviotsuste toetamisel.

Kliinilise pildistamise tehnoloogia, diagnostilised töövood ja isegi haiguste kujutise markerid ei ole aga staatilised. Selle asemel alluvad nad pidevalt arenevale keskkonnale, milles DL-algoritmid peavad kohanema, et jääda asjakohaseks. Praegu treenitakse DL-mudeleid üks kord, mis annab piltidel muljetavaldava jõudluse, mis on võrreldav nende treeningkogemusega. Kuid nende jätkusuutlikkus on piiratud, kuna tehnoloogia arenedes vananevad7. See suutmatus kohaneda uute andmetega, mis mõnes aspektis erinevad koolitusandmetest (andmekogumi nihked), takistab tõsiselt nende kasulikkust ja kasutuselevõttu kliinilises praktikas.

Andmekogumi nihked toimuvad siis, kui treeningandmete jaotus erineb mudeli järelduse andmete jaotusest8,9. Üks selline nihe, domeeni nihe (või omandamisnihe) võib tekkida skanneritehnoloogia tehnilise arengu tõttu. Kliinilises praktikas ja sellest tulenevalt ka meditsiiniliste pildiandmetega seotud uuringutes pärinevad kogutud andmed sageli erinevatelt skanneritelt, skanneripõlvkondadelt, tootjatelt või kujutise protokollidelt. Kasutatud süvaõppe mudelite edukaks kohandamiseks muutuva keskkonnaga on ülioluline välja töötada ja edendada meetodeid, mis arvestavad nende valdkonna nihketega.

Siin keskendume pidevas andmevoos teadmata aegadel toimuvate domeeninihete arvestamisele, peegeldades kliinilist praktikat. DL-mudelit õpetatakse ühe skanneri poolt hangitud kujutiste kogumi põhjal (baaskoolitus) ja seejärel värskendatakse seda pidevalt kujutise välimuse muutustega, mis ilmnevad andmevoos uute skannerite lisamisel. Samas ei tohiks unustada teadmisi varem nähtud domeenide kohta, kuna mudelisse lisatakse uus domeeniinfo. Joonis 1 illustreerib selle töö üldist seadistust. Mudel on koolitatud lähenema domeeni A andmete baaskoolituskomplektile; pärast seda eksponeeritakse seda pideva andmevooga, milles mõne aja pärast ilmuvad domeeni B, C ja D andmed. Ilma mudelit pärast baastreeningut värskendamata (staatiline süvaõpe) kannatab hilisemate domeenide täpsus, kuna need jätavad koolitusandmete jaotuse. Vaadake allpool näidet, kus baasmudelil ei õnnestunud järgmiste skannerite pilte segmentida. Pidevad õppimismeetodid takistavad seda mõju.

Pideva õppimise (mida nimetatakse ka elukestvaks õppeks) fookuses on masinõppe tehnikad, mille abil koguda mudelisse uute ülesannete (või käesoleva töö kontekstis uute valdkondade) käsitlemise võimet10,11. Peamine soovimatu mõju, mida pidevad õppemeetodid neutraliseerivad, on katastroofiline unustamine, kui mudeli värskendamine uue ülesande õppimiseks tooks kaasa varasemate ülesannete toimivuse halvenemise12. Ideaaljuhul võiks pidev õppimine tuua kaasa eelmiste ülesannete soorituse paranemise, kui treenite järgmiste ülesannete täitmisel – soovitav mõju, mida nimetatakse positiivseks tagasiülekandeks, mis tuleneb koolitusnäidete suurenenud mitmekesisusest mudelisse13.

Pakume dünaamilistmälu(DM) pideva õppemeetodina, et tulla toime uute andmeallikate tekkimisega teadmata ajahetkedel pidevas meditsiiniliste piltide voos (joonis 1). DM on proovimeetod, mis hoiab sisse väikese ja mitmekesise andmevoo alamhulgamälukatastroofilise unustamise leevendamiseks. DM mitmekesistabmälustiilimõõdiku kasutamine pidevas andmevoos vaadeldavate mitmesuguste stiilidega kujutiste säilitamiseks. Valikulise moodulina kasutame pseudodomeeni (PD) mudelit, et tuvastada pidevast voost sarnase stiiliga klastreid. Neid pseudodomeene võib vaadelda tundmatute tegelike domeenide puhverserveritena ja neid kasutataksemäluja koolitusprotsess (DM-PD). Meie meetodi üldistavuse demonstreerimiseks rakendame seda kahe erineva ülesande jaoks erinevate pildistamisviisidega. Esiteks teostame magnetresonantstomograafias (MRI) südame segmenteerimist ja teiseks rakendame oma lähenemist kopsusõlmede tuvastamisele kompuutertomograafias (CT). Näitame, et mõlema ülesande puhul ületab meie meetod pideva õppimise baasmeetodid. Pange tähele, et me ei keskendu kummagi ülesande jaoks uue ühtse skanneri tipptasemel meetodi väljatöötamisele, vaid tahame näidata, kuidas pidevõppe meetodit saab rakendada mudeli kohandamiseks pideva voo jaoks. pildiandmete, sealhulgas domeeni nihked, ilma selgesõnalise domeeniteadmiseta.

cistanche toidulisand: parandab mälu

Tulemused

Andmekogumid

Südame segmenteerimine. Katsed viidi läbi andmetega, mis pärinevad mitmest keskusest ja mitmest müüjast koosneva väljakutse andmekogumist14. Andmekogum sisaldas andmeid neljalt erinevalt müüjalt Siemens, General Electric, Philips ja Canon. Käsitlesime kõiki neid müüjaid ühe domeenina. Jagame andmed patsiendi tasemel baaskoolituseks, pidevaks koolituseks, valideerimiseks ja testikomplektideks. Tabelis 1a on näidatud iga domeeni üksikute lõikude arv nendes andmekogumi jaotustes.

Kopsusõlmede tuvastamine. Kopsusõlmede tuvastamiseks kasutasime LIDC-andmebaasist15 eraldatud andmeid koos LUNA16-väljakutse16 jaoks ette nähtud märkustega. Lisaks kasutasime LNDb väljakutse andmekogumit17. Kõigi kopsusõlmede annotatsioonide jaoks konstrueerisime annoteeritud kahjustuse ümber piiravad karbid ja ekstraheerisime kahjustustega 2D-lõigud. Et demonstreerida oma pidevat õppimist muutuvate domeenidega, koostasime LIDC-s andmekogumi kolmest kõige levinumast domeenist skanneri tarnija ja rekonstrueerimise tuuma osas ning neljanda domeenina LNDb andmekogumi. LIDC puhul olid kõige sagedamini kasutatavad sätted, sealhulgas kahjustused, GE Medical Systems madala sagedusega rekonstrueerimisalgoritmiga (GE/L, n=527), GE Medical Systems kõrgsagedusliku rekonstrueerimisalgoritmiga (GE/H, n {{). 9}}) ja B30f tuumaga Siemens (Siemens, n=130). IMDb andmekogum kasutas mitut Siemensi skannerit. LIDC andmebaasi sõlmede määratluse sobitamiseks jätsime välja sõlmed läbimõõduga < 3="" mm,="" mille="" tulemuseks="" oli="" kokku="" 625="" pilti.="" need="" pildid="" jaotati="" baastreeninguks,="" pidevaks="" treeninguks,="" valideerimiseks="" ja="" testiandmeteks="" vastavalt="" tabelile="" 1b,="" analoogselt="" südame="" segmenteerimise="">

Dünaamilinemäluleevendab katastroofilist unustamist südame segmenteerumiseks. Dünaamika võime hindaminemäluHea jõudluse saavutamiseks, tõrjudes samal ajal katastroofilist unustamist, teostasime 2D MRI lõikudel südame segmenteerimise mitme märgisega segmenteerimisena kolme märgisega: vasak vatsakese (LV), parem vatsakese (RV) ja vasaku vatsakese müokard (MYO). Pildid saadi nelja erineva müüja skanneritega nende andmevoos ilmumise järjekorras: Siemens (A), GE (B), Philips (C) ja Canon (D). Tellimuse mõistmise hõlbustamiseks nimetame neid skanneriks A–D. Baaskoolitus tehti ainult skanner A andmetel; seejärel treeniti mudelit pideva andmevoo jaoks, milles kujutise domeenid muutusid järk-järgult skannerist A-st D-ks (joonis 1). Võrdlesime erinevaid pidevõppe strateegiaid: (1) DM meetod, (2) DM meetod pseudodomeeni tuvastamisega (DM-PD), (3) juhuslikmäluasendusstrateegia, milles iga uus valim asendab juhuslikult valitud valimi, mis praegu onmälu(Juhuslik) ja (4) naiivne lähenemine andmevoos õppimisele ilma katastroofilise unustamiseta (naiivne). Lisaks võrdlesime tulemusi nüüdisaegsete pidevõppe meetoditega: (5) elastne kaalu konsolideerimine (EWC)18 ja kaks meetodit, mis nõuavad domeeni tundmist (6) Gradient EpisodicMälu(GEM)19 ja (7) kogevad taasesitust maksimaalselt järeldatud otsinguga (ER-MIR)20. Pange tähele, et DM ja DM-PD töötavad ilma domeenialaste teadmisteta, mis esindab kliinilises praktikas realistlikumat eeldust. Võrdluseks koolitasime ka kahte baasmudelit: esiteks ühismudel (JModel) kõigi treeningandmetega, mis käsitlesid kogu andmekogumit ühe hüpoteetilise staatilise andmekogumina; ja teiseks, domeenispetsiifilised mudelid (DSM), mida koolitatakse staatilise koolitusskeemi järgi igas domeenis eraldi. Lõpuks esitame tulemused skanneril A treenitud staatilise baasmudeli (Base) kohta, mida rakendati skanneritele A kuni D. Kõik meetodid kasutasid segmenteerimiseks sama konvolutsioonilist närvivõrku (CNN) – FC-ResNet5021.

Joonis 1 Erinevad mudelikoolituse ja kohanemisstrateegiad. 1 Pildianalüüsi pidev DL kohandub uute andmete omadustega ja säilitab samal ajal võimaluse töötada vanemate andmetega. a Staatiline DL: pärast DL-mudeli väljaõpetamist ja juurutamist tehnoloogia muutub ja mudeli täpsus väheneb. b Naiivne pidev õppimise lähenemisviis selle piirangu lahendamiseks on jätkata mudeli treenimist andmevoo põhjal. See aga viib vanade andmete atribuutide unustamiseni ja vastavalt nende andmete jõudluse vähenemiseni. c Pideva õppimisviisina dünaamilinemälutuvastab uued esilekerkivad domeenid ja valib andmeid pidevas voos vastavalt. ML-mudel kohandub uue tehnoloogiaga, kuid jääb varem nähtud erinevate skannerite puhul täpseks. See on oluline mudeli tagasiühilduvuse tagamiseks ja stabiilsema mudeli loomiseks, mis kohandub uute skanneritega kiiremini. 2 Eraldi testikomplekti valideerimisel hinnatakse DL-mudeli toimivust perioodi lõpus.

Võrdlesime kõigi lähenemisviiside segmenteerimise täpsust eraldi testikomplektis, mis sisaldas pärast koolituse lõppemist kõigi nelja skanneri andmeid. Lisaks hindasime konkreetselt, kas mudeli täpsus ühes skanneris saab kasu mudelite koolitamisest teistel skanneritel, hinnates tagasiülekannet (BWT) ja edasiülekannet (FWT)19.

Tabelis 2 on lähenemisviise võrreldud keskmise täringu skoori alusel LV, RV ja MYO kohta.mälusuurus M {{0}}. LV, RV ja MYO segmenteerimise eraldi hindamine näitas sarnaseid suundumusi (vt täiendavad tabelid 1–3). DM ja DM-PD toimisid sarnaselt ja edestasid kõiki teisi pideva õppimise strateegiaid, mille jaoks pole domeeni liikmelisuse kohta teavet vaja (naiivne, juhuslik ja EWC). Viimase domeeni (skanner D) piltide puhul oli EWC-l kõrgeim keskmine täringu skoor (0,850 ± {{10}}.003) kuid kõrge negatiivse BWT väärtuse (-0,014 ± 0,007) hinnaga, mis näitab, et toimus katastroofiline unustamine. DM ja DM-PD ei unustanud, nagu näitavad neutraalsed BWT-d vastavalt 0.{15}} ja 0,003. GEM ja ER-MIR näitasid DM-PD-ga sarnast jõudlust, kuid vajasid teavet üksikute proovide domeeni kuuluvuse kohta, mis pole kliinilises praktikas teostatav. Juhusliku asendusstrateegiaga mälu võrdlemine DM-i ja DM-PD-ga näitas, et DM-i jaoks kasutatav stiilimõõdik oli tõhus proovide valimiseks, et moodustada mitmekesine.mälu. Juhuslik asendamine tõi kaasa varasemate domeenide unustamisejätkukoolitus (BWT -0.011), samas kui DM ja DM-PD säilitasid kõigi skannerite head jõudlust.

Skanneri B andmetel, mille jaoks kasutati treenimiseks suhteliselt väikest valimit (720 kujutist), suutsid DM ja DM-PD saavutada head jõudlust ilma domeeni liikmesuse teabeta. Juhusliku asendamise, EWC ja naiivse koolitusega õppimine põhjustas skanneri B jõudluse märkimisväärse languse. See näitas, et Grami maatriksipõhise stiilimõõdiku kasutamisel oli DM vähem tundlik proovide arvu suhtes skanneri müüja kohta kui muud pideva õppimise strateegiad. .

J-mudel oli koolitusega saavutatava ülempiir, eriti väheste näidistega domeenide puhul, st skanneri B puhul oli jõudluse lõhe pideva õppimise ja hüpoteetilise staatilise pakettkoolituse vahel, mis võimaldab juurdepääsu kõigile andmetele, suur ({{0 }},763 ± 0.004 vs. 0,798 ± 0,016). See oli tingitud asjaolust, et pidevas õppimises nähti alaesindatud valimeid harvemini kui staatilises koolituses. Täiendavas tabelis 4 erinevadmäluvõrreldi DM ja DM-PD suurusi M=〈64, 128, 256, 512, 1024〉. Lisades veelmälutulemuseks oli parem jõudlus, kuid erinevuste tõttu koolituse dünaamikas (JModel treenib partiipõhiselt ja näeb seega rohkem partiisid kui pidevõppe seadetes), ei olnud JModeli jõudlus saavutatav. DM väiksemagamäluofM {{0}} ei suutnud täpselt tabada treeningandmete jaotuse mitmekesisust ja põhjustas seega unustamise (BWT=− 0,005).

milleks cistanche'i kasutatakse: mälu parandamiseks

Joonis 2 näitab, kuidas keskmine DSC muutus pideva treeningu käigus. EWC ja naiivse pideva õppimise puhul täheldati katastroofilist unustamist ja varasemate domeenide täpsus vähenes, kuna uued domeenid sisenesid mudelikoolitusse. DM ja DM-PD puhul oli täpsus pideva koolituse edenedes kõigis valdkondades stabiilsem.

Semantilise segmenteerimise kvalitatiivne hindamine joonisel 3 näitas erinevate pideva õppimise lähenemisviiside võrreldavaid tulemusi. Kuigi naiivne pidev õppimine näitas skanneri D puhul paremaid tulemusi, toimisid DM ja DM-PD hästi kõigi skannerite, sealhulgas varem nähtud domeenide puhul. Võrdlus baasmudeliga (koolitatud ainult skanneri A andmetel) näitas, et vajame pidevat õppimismeetodit, et kohandada mudelit muutuva visuaalse välimusega. Baasmudel ei suutnud skannerite B–D jaoks täpset segmenteerimist läbi viia, mille tulemuseks oli suur arv valenegatiive.

Dünaamilinemäluleevendab katastroofilist unustamist kopsusõlmede tuvastamisel. Kopsusõlmede tuvastamine viidi läbi 2D CT-lõikude piirdekasti tuvastamisena ja mõõdeti keskmise täpsusega (AP), nagu on määratletud hindamisosas. Andmevoogu kaasati neli pildidomeeni: GE madala sagedusega rekonstrueerimisalgoritmiga (GE/L); GE kõrgsagedusliku rekonstrueerimisalgoritmiga (GE/H); Siemens; ja LNDb (üksikasju vt jaotisest „Andmekogumid”) järgmistes Skannerites E–H. Baasõpe viidi läbi skanneri E andmete põhjal. EWC definitsiooni tõttu ei olnud tuvastamisülesannete puhul otsene võrdlus võimalik. DM-i ja DM-PD-d võrreldi juhusliku asendusmälu ja naiivse pideva õppimise lähenemisviisiga.

Analoogselt segmenteerimisega hinnati võrdlusena kahte tipptasemel meetodit, mis nõuavad domeenimärgiseid (mida DM ja DM-PD ei nõua), GEM19 ja ER-MIR20. Baasmudelitena võrreldi ühismudelit (JModel) ja domeenispetsiifilisi mudeleid (DSM) ning staatilise baasmudeli (Base) tulemusi hinnati analoogselt segmenteerimiskatsega. Tegumivõrguna kasutati ResNet-50 magistraalvõrguga kiiremat R-CNN-i22.

Üldiselt toimisid DM-PD ja DM AP osas paremini kui naiivne lähenemisviis, nagu on näha tabelist 3. Mõlemad ületasid naiivset meetodit ja võitlesid tõhusalt katastroofilise unustamise vastu. Kõigi LIDC-st eraldatud domeenide (skannerid E, F ja G) puhul toimis DM hästi. Siiski täheldasime kõigi meetodite puhul Scanner H jõudluse langust. Selle languse põhjustas lisaks suurele domeeninihkele ka rahvastiku nihe. LIDC andmetes oli kopsusõlmede keskmine läbimõõt 8, 29 mm, samas kui Scanner H andmed (eraldi LNDb-st) sisaldasid väiksemaid kahjustusi keskmise läbimõõduga 5, 99 mm. Disaini järgi ei tuvasta DM populatsiooni nihkeid (st kahjustuse omaduste muutumist erinevalt pildistamisomadustest) ja seega ei suuda see Skanneri H andmetega kiiresti kohaneda. Juhusliku asendamise strateegia oli hädas õppedomeenidega, mida koolitusel esines harvemini (Skanner F ja G), kuna need asendati aja jooksul skanneri H andmetega, mille tulemusel need skannerid ununesid. See mõju oli skanneri E andmete puhul vähem tõsine, kuna baaskoolitus viidi läbi selle skanneri andmetega. DM ja DM-PD tõrjusid seda unustamist, kasutades stiilil põhinevat mõõdikut, et mitmekesistadamäluja hoidis seega kõigi skannerite näidiseid seesmälu. DM-PD toimis paremini kui DM ilma pseudodomeeni tuvastamiseta, näidates, et koolitusprotsessi tasakaalustamine oli meie pideva õppemeetodi jaoks oluline samm. DM-PD näitas AP osas parimat jõudlust ja ületas skannerite E, F ja G puhul naiivset lähenemist ligikaudu 0,05 AP võrra. Lisaks täheldati DM-PD/128 puhul parimat edasi- ja edasisuunatavust. . Seega oli see eelistatud mudel kopsusõlmede tuvastamiseks.

Joonis 2 Südame MR segmentatsioon. Täringuskoor (DSC) M=128 treeningu ajal DM-i ja DM-PD jaoks saadud valideerimiskomplekti kohta, võrreldes juhusliku asendamise ja naiivse pideva õppimisega. Allosas olev ajaskaala tähistab pidevat andmevoogu ja domeenide muutumist voos. Skanneri A DSC langust võib täheldada, kui skanner B voos esineb, DM ja DM-PD suutsid sellest langusest taastuda, kasutadesmälu; b kõik meetodid on skanner C-ga treenimise ajal stabiilsed ja c niipea kui skanner D andmed sisse voolavad, näeme skanneri D valideerimisnäidiste DSC kiiret tõusu. Naiivne ja juhuslik asendamine kaotab selle perioodi jooksul mõned DSC-punktid, samas kui DM jääb stabiilseks. See märkimisväärne ja kiire muutus näitab, et skanner D on teistest erinev ega ole nii lähedalt seotud kui skanner B ja C.

Täiendav tabel 5 näitab erinevate võrdlemise tulemusimälusuurused M=〈64, 128, 256, 512, 883〉 (883 vastab kõigi pideva voo näidiste mällu salvestamisele). DM-i puhul oli suurem mälumaht kasulik võrreldes väiksema mälumahuga. DM-PD puhul näitasid tulemused, et mida väiksem onmälu(M=64 ja M=128), seda suurem jõudlus suurenes pseudodomeeni (PD) tuvastamisega võrreldes pelga DM-ga. Suuremate mälumahtude puhul kadus PD-de eelis. Treeningjärjestuse erinevuste tõttu erines jõudlus DM koos M=883 JModeli omadest. Kui DM/883 toimis skanneri E ja F puhul paremini, siis JModel näitas skanneri G ja H puhul kõrgemaid AP väärtusi.

Joonisel fig 4 on DM-i ja DM-PD-de valideerimise tulemuslikkuse muutus treeningu ajal M=128 võrreldes juhusliku asendamisegamäluja naiivne pidev õppimine. Kuigi juhuslik asendamine ja naiivne strateegia näitasid unustamist, eriti Scanner G puhul, hoidsid DM ja DM-PD jõudlust kõrgel ilma katastroofiliselt unustamata.

DM-i toimivuse üksikasjalikuks analüüsimiseks kopsusõlmede tuvastamisel võrreldi DM-i ja DM-PD täppis-meenutuskõveraid M=128-ga naiivse pideva õppimisega ja baasmudeliga, mis oli koolitatud ainult esimese skanneri E andmete põhjal ( joonis 5a). Baasmudel toimis kõigis valdkondades halvemini kui pideva õppimise lähenemisviisid, isegi selle domeeni testandmete puhul, mille kohta mudelit koolitati. See näitas, et järgmiste skannerite teadmised võivad parandada mudeli lõplikku jõudlust Scanner E-s. Ootuspäraselt halvenes baasmudeli jõudlus järgmiste skannerite puhul. Naiivse pideva õppimise lähenemisviisi täpsus-meenutuskõverad näitasid paranemist võrreldes baasmudeliga. Võrreldes DM-i ja DM-PD-ga näitas see skännerite E–G jõudlust halvemini ja skanneri H veidi paremat jõudlust. See näitab, kuidas naiivne pidev õppimine võib uute skanneritega kohaneda, kuid erinevalt DM-st ja DM-PD-st kannatas unustades mudeli värskendamise ajal skanneri H andmetele.

Joonisel 5b on näidatud kõigi nelja domeeni piirdekasti tuvastamised. Üldiselt esines naiivse lähenemisviisi puhul suurem arv valepositiivseid tulemusi kui DM ja DM-PD. Arvestades asjaolu, et tuvastasime ainult 2D-lõikudel, näitasid DM ja DM-PD head üldist jõudlust. Kopsusõlmede tuvastamisel näitasime selget kasu, kasutades meie DM-meetodiga harjutamist pidevas õppeseadetes tundmatute domeeninihetega.

Pseudodomeeni tuvastamine säilitab rohkem tasakaalumälu.

Kopsusõlmede tuvastamiseks analüüsisime erinevusi M=128 jaoks pseudodomeeni mooduliga DM treenimise ja pseudodomeeni moodulita treenimise vahel. Esiteks hindasime, kuidas proovid sisse saidmälukoolituse lõpus jaotati kogu koolituskorpusega võrreldes, manustades kõigi treeningnäidiste Gram-maatriksid manustamisruumi, kasutades t-jaotatud stohhastilist naaberkinnitust (TSNE)23.

Joonis 6a näitab selget vahet skanneri F, skanneri H ning skannerite E ja G domeenide vahel. Skannerid E ja G olid oma stiililt lähedased, kuna nende domeenide jaoks kasutati sarnast rekonstrueerimistuuma. Joonisel olevad markerid tähistavad sees olevaid proovemälupideva treeningu lõpus. DM-PD puhul jaotati need ühtlasemalt kogu treeningkomplekti peale.

Seda tähelepanekut kinnitasid joonisel fig 6c kujutatud andmed, kus me täheldasime esimese domeeni (Skanner E) selget üleesindust järgmistes domeenides ainult DM-ga treenimiseks, võrreldes pseudodomeenidega (DM-PD) tasakaalustamisega.

Joonis 3 Kvalitatiivsed näited südame segmenteerimise kohta. Tulemused DM ja DM-PD kohta M=128 võrreldes naiivse pideva õppimise ja juhuslikumäluasendamine. Valesti märgistatud viitab pikslitele, mis olid märgistatud, kuid mudel ajas klassi kuuluvuse segadusse. Baasmudelit koolitati ainult skanneri A andmetel staatilise koolituse meetodil.

Joonis 6b näitab pseudodomeenidele määratud domeenielementide arvu analüüsi. Ühe treeningjooksu näitel tuvastati viis pseudodomeeni. PD-1 esindas skanneri E tegelikku domeeni. PD-4 ja PD-5 esindasid kahe skanneri, F ja G näidiseid. PD-2 ja PD{{7} }, ei olnud domeenide vahel selget eristamist. Üldiselt jälgisime

Joonis 4 Kopsusõlmede tuvastamine. Keskmine täpsus (AP) mõõdeti valideerimiskomplektis DM ja DM-PD koolituse ajal M=128, samuti juhusliku asendusegamäluja naiivne pidev õppimise lähenemine. Allosas olev ajaskaala tähistab muudatusi andmevoo domeenides. Niipea, kui voos tekkisid skanneri F andmed, suurenes skanneri F (ja ka skanner G) domeenis tehtud valideerimine kõigi lähenemisviiside puhul. b Skanneri E, F ja G naiivse ja juhusliku asendusmeetodi puhul ilmnes jõudluse (AP) selge langus pärast skanneri H andmete koolitust, mis tähistas katastroofilist unustamist. DM-i puhul jõudlus esmalt veidi langes, kuid taastus pärast mõnda treeningsammu, kuna mälust võetud näidiseid kasutatakse treenimiseks. DM-PD jõudlus jäi skannerite E, F ja G puhul stabiilseks. c Pideva treeningu lõpus saavutati skannerite E, F ja G parem jõudlus, kui kasutati dünaamilist mälu. Scanner H puhul oli kõigi kolme lähenemisviisi jõudlus sarnane. d Skanneri E jõudlus oli stabiilne kogu pideva koolituse käigus kõigi lähenemisviiside puhul, näidates skänneri E jaoks küllastunud baastreeningut, et pseudodomeeni mooduli kasutamine oli kasulik tasakaalustatud mälu säilitamiseks, mis esindas tervikut. treeningkomplektide jagamine.

cistanche ülevaated: parandage mälu

Arutelu

Masinõpe laiendab meditsiiniliste kujutiste andmete kasutamist diagnoosimiseks ja prognoosimiseks. Süvaõppe edusammud võimaldavad arvutuslikult tuvastada, segmenteerida ja klassifitseerida haigusega seotud üksusi, andes seega teavet individuaalsete raviotsuste tegemisel. Pärast staatilise DL-i esimest kordamist on mudelite tõhusus osutunud. Nüüd on väljakutseks muuta need jätkusuutlikuks keskkonnas, kus pildihõive tehnoloogia, protokollid või isegi ravivõimalused arenevad pidevalt. Siin näitame seda lähenemisviisi, mis säilitab mitmekülgse dünaamikamäluvõiks kohandada mudeleid muutuva pilditehnoloogiaga, kuna see tuli toime domeenimuutustega. Oluline on see, et kuigi mudel õppis uutest andmetest, säilitas see proovi mitmekesisusemälu, et jääda täpseks ja usaldusväärseks kogu nähtud pildiallikate repertuaaris. Lisaks täheldasime, et mudeliteadmised kanti edukalt üle skannerite vahel. Teistest skanneritest saadud koolitusandmete kaasamine andis eeliseid mudeli täpsuse osas individuaalsel skanneril.

Skanneri varieeruvusest tingitud domeeninihkeid ja nende kahjulikku mõju masinõppe (ML) algoritmidele on täheldatud erinevate kujutise modaalsuste puhul, nagu kompuutertomograafia (CT) ja magnetresonantstomograafia (MRI). CT puhul on rindkere CT-uuringutes uuritud skannerite ja rekonstrueerimisparameetrite mõju ML-i prognoosidele ja inimeste annotatsioonidele. Näidates, et skanneri varieeruvus avaldab negatiivset mõju raadiotehnikale24,25 ja teistele pildistamisfunktsioonidele26, tuleb seda ML-mudelite kavandamisel arvesse võtta. In ref. Nagu on näidatud joonisel 27, hinnati empiiriliselt mitme MRI skanneri kasutamise mõju aju MRI ML-algoritmidele. Skanneri varieeruvuse mõju vähendamiseks pikisuunalistes mitme skanneriga MRI uuringutes on rakendatud ühtlustamist28,29. Erinevalt meie tööst eeldavad need meetodid, et kõik andmed on korraga saadaval, mis aga kliinilises praktikas kasutatava mudeli puhul ei kehti.

Varem on pakutud erinevaid meetodeid, et leevendada katastroofilist unustamist10,11 pidevas õppes. Need lähenemisviisid võib laias laastus jagada kolme kategooriasse: proovi- ja pseudoproovimeetodid 19, 30–33, regulatsioonipõhised lähenemisviisid 18, 34, 35 ja parameetrite eraldamise meetodid36, 37. Üksikasjaliku ülevaate saamiseks vaadake viiteid. 10,11. Enamik neist lähenemisviisidest on järkjärgulised ülesannete õppimise meetodid. Nad keskenduvad järk-järgult uute ülesannete õppimisele, unustamata eelnevate ülesannete jaoks vajalikke teadmisi. Viimasel ajal on pakutud välja meetodeid, mis on keskendunud domeeni nihke arvestamisele38–40. Domeeni kohandamine (DA) on seotud uurimisvaldkonnaga, mis käsitleb domeeninihkeid41–43. DA keskendub

Joonis 5 Kopsusõlmede tuvastamise kvantitatiivsed ja kvalitatiivsed tulemused. Lõpliku naiivse, DM- ja DM-PD-ga koolitatud mudeli täppis-meenutuskõverad võrreldes ainult skanneri E-andmetel treenitud baasmudeliga. Varjutatud alad tähistavad n=5 sõltumatu treeningu kindlusintervalle. b Lõpliku naiivse, DM ja DM-PD koolitatud mudeli kopsusõlmede tuvastamise proovid võrreldes baasmudeliga, mida treeniti ainult skanneri E andmetega kõigis neljas domeenis. Rohelised kastid tähistavad tõeseid, kollased valenegatiive ja punased kastid valepositiivseid.

ühes või mitmes lähtevaldkonnas õpitud teadmiste kohandamine sihtvaldkonnaga. Meditsiinilises pildistamises kasutatakse DA-d erinevate pildistamisviiside või erinevate kujutise saamise seadete vahel kohanemiseks44. See eeldab korraga juurdepääsu lähte- ja sihtdomeenile, mis ei kehti pidevat andmevoogu kasutava seadistuse puhul. Lisaks nõuab DA iga proovi domeeni või ülesande liikmelisuse tundmist. See eeldus ei ole reaalse meditsiinilise pildistamise puhul realistlik. Kujutise omandamise teavet kodeerivate metaandmete varieeruvus ei ole otseselt seotud kujutise omaduste võrreldavusega13. Kuna me eeldame, et meil pole neile teadmistele juurdepääsu, ei ole need meetodid kliinilises rutiinis pidevaks õppimiseks rakendatavad. Seetõttu ei ole neid siiani praktikas vastu võetud. Kolmas seotud valdkond on ülekanneõpe45. Siin kantakse olemasolev mudel üle uude ülesandesse või domeeni, täpsustades uusi andmeid. Ainus eesmärk on mudel, mis töötab seal hästi, olenemata selle võimest algses domeenis hästi töötada. Peenhäälestuse ajal pole algse domeeni andmeid vaja.

Meie tulemused näitavad, et staatiliste mudelite segmentimis- ja tuvastamisvõime on piiratud, kui andmeid kogutakse kujutise hankimise masinatega väljaspool esialgset koolitusjaotust. Samal ajal unustavad naiivsed lähenemisviisid, mis pidevalt treenivad uutel skanneritel, vanad pildistamisomadused, kaotades oma võime töödelda varasemate hankimisomadustega andmeid. Lisades pidevalt uusi treeningandmeid, säilitades samal ajal mitmekülgse proovikomplekti, tagab dünaamiline mälu hea jõudluse kogu vaadeldava skannerite komplekti puhul. Pseudodomeenide tuvastamine, mis esindavad alamrühmi, millel on sarnane stiil või kujutise omadused, annab skanneritele vastavad kujutiste rühmad või skannerirühmad, millel on sarnased välimuse omadused. Nende tuvastamine ja süstimine treeningprotsessi

Joonis 6 Täiustaminemälumitmekesisust. Mälu koostise võrdlus DM ja DM-PD jaoks M=128 jaoks. TSNE treeningkomplekti Gram-maatriksite kohal näitab domeenide eristamist. Markerid näitavad mäluelementide asukohti treeningu lõpus ühe jooksu jaoks. DM-PD näitab võrdsemat jaotust kogu treeningkomplekti peale. b Ühe DM-PD treeningu puhul tuvastati viis tuvastatud pseudodomeeni; tulbad näitavad pseudodomeenidele määratud domeenielementide arvu. c Domeeni elementide arvmälupärast DM ja DM-PD koolitust. Vearibad tähistavad standardhälvet ja keskmist (keskjoont), n=5 sõltumatut käitamist.

DM parandab veelgi mudeli jõudlust. Oluline on see, et need pseudodomeenid võivad hõlmata mitut skannerit, kui neil on ühised kujutise omadused. Stiilipõhise mõõdiku kasutamine leevendab vajadust domeeni kuulumise teadmiste järele ja näitab sarnast jõudlust seda teavet kasutavate tipptasemel õppemeetoditega.

Selle lähenemisviisi täiendav eelis võrreldes skannerispetsiifiliste mudelite koolitamisega on see, et mudeli jõudlus konkreetse skanneriga saab tavaliselt kasu teiste skanneritega treenimisest. Mudeli funktsioonide esitused saavutavad parema üldistavuse seotud, kuid erinevate andmete koolituse kaudu. See toob kaasa uute skanneriandmete töötlemise, mis tuleb kasuks vanemate skanneritega õppimisest (edasiedastus) ja vastupidi (tagasi edastamine). Tulemused olid järjepidevad erinevate pildistamisviiside (MRI, CT) ja pildianalüüsi ülesannete (segmenteerimine, tuvastamine) puhul.

Meie südame MRI segmenteerimise tulemused näitasid, et DM on naiivse pideva õppimisega võrreldes kasulik, ununemine on vähem katastroofiline ja saavutatakse tulemusteni, mis on võrreldavad staatilisel treeningkomplektil treenitud mudelitega, mis koosnesid kõigist valdkondadest pärit andmetest. Sarnased efektid ilmnesid kopsusõlmede tuvastamisel CT-s ja tulemused näitasid, et pseudodomeenide (DM-PD) kasutamine põhjustas vähem valepositiivseid tuvastamisi kui tavaline dünaamilinemälu.

kõrbetsitanche draakoni ürdid

Meie lähenemisviis on samm strateegia väljatöötamise suunas, et õppida meditsiiniliste kujutiste pidevast andmevoos, mida saab potentsiaalselt kasutada kliinilises praktikas. Sellest hoolimata on meetodil mitmeid piiranguid. Esiteks on vaja rohkem uuringuid, et näidata, et suudame kavandada süsteeme, mis tagavad, et skannerite arvu oluliselt suurendamisel ei tekiks katastroofilist unustamist. Tõestada, et DL-mudelite jõudlus tulevaste domeenide puhul ei vähene, on keeruline. Teiseks nõuab DM piltide alamhulga salvestamist treeningu ajal proovimiseks. Kuigi see proovikomplekt on kogu andmekogumist oluliselt väiksem, võivad oluliseks muutuda privaatsusprobleemid või salvestuspiirangud. Lõpuks ei võta me arvesse juhtumite märkimise kulusid, eeldades, et andmevoo iga proovi jaoks on koolituse jaoks saadaval sihtmärgised või piirdekastid. Kliinilises praktikas see eeldus ei kehti ja tundmatute domeenide jaoks uute annotatsioonide majanduslikuks kogumiseks on vaja in-the-loop kontseptsiooni7, nagu aktiivne õppimine46.