Prispevek objavljen na konferenci ROSUS 2019, DOI 10.18690/978-961-286-244-2.14
Avtorji: Jurij Munda, Božidar Potočnik, Milan Reljič, Ksenija Rakić, Jure Knez, Veljko Vlaisavljević, Gašper Sedej, Boris Cigale, Aleš Holobar in Damjan Zazula
Povzetek: V tem prispevku predstavljamo spletni sistem in javno podatkovno bazo USOVA3D, namenjena nepristranemu ocenjevanju uspešnosti algoritmov detektiranja mešičkov na 3D ultrazvočnih posnetkih jajčnikov. Podatkovna baza vsebuje 44 zapisov, pri čemer vsak zapis sestoji iz ultrazvočnega posnetka jajčnika pacientke ter volumenskih datotek z označbami jajčnika in mešičkov. Vsak posnetek sta ločeno označila dva neodvisna eksperta ginekologa. Vsi podatki so popolnoma anonimizirani ter so shranjeni v volumenskih datotekah v formatu VTK. Spletni sistem zagotavlja dostop do podatkovne baze USOVA3D, hkrati pa natančno predpisuje protokol validiranja in nudi programske rutine za nepristrano vrednotenje algoritmov detektiranja mešičkov. Ta sistem tudi beleži in omogoča vizualiziranje rezultatov validiranja.
Ključne besede: • 1. 3D ultrazvočni posnetki jajčnikov • 2. detektiranje jajčnih mešičkov • 3. javna podatkovna baza • 4. nepristrano validiranje algoritmov • 5. spletni sistem USOVA3D
1. UVOD
V lanskem letu je minilo 40 let, odkar se je rodil prvi otrok, ki ni
bil spočet po naravni poti. Hiter razvoj postopka za oploditev z
biomedicinsko pomočjo (OBMP) je posebej v preteklih dveh desetletjih
omogočil tisočem neplodnih parov, da so postali starši svojim
otrokom. Vse faze postopka so močno odvisne od ultrazvočnih
pregledov ženskih jajčnikov, v katerih dozorevajo jajčni mešički
z jajčeci, primernimi za oploditev.
Pravilno ovrednotenje jajčnih mešičkov je temeljni kamen za
uspešno izpeljano OBMP. Jajčni mešički so sferične oblike in so
napolnjeni s tekočino, ki ščiti jajčece. V jajčniku se razvijajo
dalj časa, da s premerom 1 do 2 mm dosežejo t. i. antralno stopnjo.
V naravnem ciklusu nato v nekaj dneh zrastejo do 5 mm in se prelevijo
v dominante mešičke. Ti se povečujejo približno za 1 mm na dan in
tik pred ovulacijo dosežejo velikost med 18 in 30 mm. Pri OBMP je
običajno, da rast mešičkov stimulirajo s hormoni, kar povzroči
hkratno zorenje več antralnih mešičkov.
Doziranje hormonov in spremljanje razvoja mešičkov je za OBMP
ključnega pomena. Ultrazvočne preiskave opravljajo v razmikih od 1
do 3 dni in medicinski eksperti za ultrazvok morajo sproti
analizirati množico ultrazvočnih posnetkov. Delo je zamudno in
utrudljivo, saj traja vsaj 10 minut po opravljenem ultrazvočnem
pregledu, pri 3D-ultrazvočnih posnetkih pa lahko še več.
Avtomatična detekcija jajčnih mešičkov v ultrazvočnih posnetkih
je torej zelo dobrodošla, vendar pa mora biti po uspešnosti
primerljiva z ekspertovimi odčitki. Avtomatični računalniški
algoritmi se pojavljajo vzporedno z razvojem ultrazvočnih
medicinskih snemalniki in izkoriščajo dejstvo, da se jajčni
mešički pri delovanju naprav v B-načinu vidijo kot temna območja
na svetlejši podlagi. Sprva so se avtomatične analize izvajale na
ločenih računalnikih, danes pa so detekcijski programi praviloma
vgrajeni že v ultrazvočne snemalnike.
Pred leti so ultrazvočne naprave omogočale le 2D-vpoglede v
človeško telo, tako da so medicinskemu ekspertu prikazale ravninski
presek skozi tkivo. Ultrazvočna sonda odda zvočno valovanje, ki se
razširi kot ozek snop v smeri, ki jo določa usmerjenost sonde.
Različna struktura tkiv bolj ali manj vsrka ali pa odbija zvočno
energijo. Odbiti valovi se vrnejo do sonde, in ker poznamo hitrost
potovanja zvoka, lahko izračunamo razdaljo od sonde do reflektorja,
torej telesne strukture, ki je valovanje odbila. Običajno vidimo na
ultrazvočnih snemalnikih strukture, ki močno reflektirajo zvok
(hiper odmevne), kot svetle točke, tiste pa, ki zvočno energijo
vsrkajo (hipo odmevne), kot temne točke.
Zaporedje več 2D-presekov lahko sestavimo v prostorsko predstavitev
preiskovanca, vendar z ročnim premikanjem sonde v tretji prostorski
dimenziji ne moremo zagotoviti enakomerne in popolnoma vzporedne lege
nanizanih 2D-slik. Pravilne kartezične razmere dosežemo lahko le s
3D-sodno, ki oddaja in lovi zvok v pravilni 3D-mreži. Najnovejše
ultrazvočne naprave so v celoti prilagojene 3D-snemanju in vsebujejo
računalniške algoritme, ki ekspertom pomagajo razpoznati iskane
3D-strukture.
V klinični praksi se je najbolj uveljavil detekcijski program
SonoAVC, ki je vgrajen v ultrazvočnih snemalnikih firme General
Electric in v 3D-ultrazvočnih posnetkih jajčnikov segmentira jajčne
mešičke. Njegovo delovanje ni čisto avtomatično, saj mora ekspert
najprej omejiti območje, v katerem išče mešičke, nato pa mora
ročno izločiti tista območja, ki jih je program napačno označil
kot mešičke, in pokazati na mešičke, ki jih je program
spregledal. Čeprav že to prinaša pomembno pomoč, je vendarle moči
pričakovati od naprednejših algoritmov še večjo uspešnost in
predvsem več avtonomije [1].
Zato se mnogi raziskovalci trudijo izboljšati računalniško
detekcijo jajčnih mešičkov [1, 3]. Vsak zase si pridobijo nabor
ultrazvočnih posnetkov jajčnikov, v katerih medicinski eksperti
najprej ročno označijo območja mešičkov. Te segmentacije služijo
kot referenca za dokazovanje, kako uspešna je razvita računalniška
analiza. A pri takšnem pristopu se soočamo vsaj z dvema problemoma:
-
detekcijski rezultati, dobljeni z različnimi računalniškimi
algoritmi, niso primerljivi, ker ne izhajajo iz istega nabora
ultrazvočnih posnetkov in ročno določenih referenc;
-
uporabljene so različne metrike za ugotavljanje, kako uspešno in
natančno je algoritem razpoznal območja, ki pomenijo referenčne
odčitke mešičkov.
Če želimo zagotoviti objektivno primerjavo uspešnosti različnih
računalniških postopkov za razpoznavanje jajčnih mešikov, morajo
vsi uporabiti isto bazo anotiranih ulztrazvočnih posnetkov. Ker
takšne baze doslej raziskovalci še niso javno ponudili, smo se na
Fakulteti za elektrotehniko, računalništvo in informatiko (UM FERI)
odločili, da z eksperti za OBMP v Univerzitetnem kliničnem centru
(UKC) v Mariboru zasnujemo in realiziramo takšno podatkovno bazo.
O njej in o možnostih, da do nje dostopamo s spletnimi storitvami
ter da na ta način preverjamo tudi rezultate svojih detekcijskih
algoritmov, govorimo v tem prispevku. Baza je v fazi nastajanja in je
sestavni del spletnega sistema za nepristrano validiranje algoritmov
za detekcijo jajčnih mešičkov v 3D-ultrazvočnih posnetkih
jajčnikov.
2. PODATKOVNA BAZA ULTRAZVOČNIH SLIK JAJČNIKOV Z MEŠIČKI – USOVA3D
Podatkovno
bazo 3D ultrazvočnih slik jajčnikov z referenčnimi označbami
jajčnikov oz. mešičkov (v nadaljevanju jo označujemo z USOVA3D)
sta konstruirala in jo dopolnjujeta ter vzdržujeta ekipa ginekologov
iz UKC Maribor ter raziskovalci iz Laboratorija za sistemsko
programsko opremo (LSPO) iz UM FERI. UKC zagotavlja 3D ultrazvočne
posnetke jajčnikov ter referenčne označbe, medtem ko LSPO
zagotavlja infrastrukturo za hranjenje podatkovne baze ter orodja in
protokol za označevanje jajčnikov in mešičkov.
Vsaka
pacientka, vključena v raziskavo, je s pisnim privoljenjem dovolila
uporabo in dodajanje njenih ultrazvočnih posnetkov v podatkovno bazo
USOVA3D. Vsi podatki v bazi so popolnoma anonimizirani. Opisana
raziskava ima vsa potrebna dovoljenja Komisije za medicinsko etiko,
UKC Maribor.
Trenutna različica podatkovne baze USOVA3D vsebuje 44 označenih 3D ultrazvočnih posnetkov. Večina ultrazvočnih posnetkov je bila zajeta z ultrazvočno napravo Volusonom 730, nekaj z napravo Medison Accuvix XQ, novejši posnetki pa so zajeti z napravo Voluson 630. Vsi 3D ultrazvočni posnetki imajo prostorsko ločljivost 0,2 mm po vsaki osi oz. velikost voksla je 0,2 mm x 0,2 mm x 0,2 mm, se pa posnetki razlikujejo po velikosti. V podatkovni bazi so posnetki od velikosti 149 x 103 x 115 vokslov pa vse do 185 x 193 x 223 vokslov. Velikost posnetkov je po osi x med 101 in 229, po osi y med 89 in 193, medtem ko je velikost po osi z med 115 in 247.
En zapis v
podatkovni bazi USOVA3D sestoji iz ultrazvočnega posnetka, označbe
jajčnika ter označb jajčnih mešičkov. Vsak 3D ultrazvočni
posnetek sta vedno ločeno obdelala ter označila dva neodvisna
eksperta ginekologa iz UKC. LSPO je vzpostavil protokol in orodja za
označevanje posnetkov. Vsa označevanja so potekala z orodjem
ITK-SNAP, ki bere in izpisuje podatke v formatu VTK. Vse označbe so
tvorjene volumsko in so shranjene v dveh ločenih volumskih datotekah
tipa VTK. V prvi datoteki so voksli oštevilčeni z 0 za ozadje in z
zaporednimi številkami za ločene mešičke (od 1 do števila
mešičkov), v drugi pa imajo voksli ozadja vrednost 0, medtem ko so
voksli, ki pripadajo jajčniku, vpisani z 1. Oba volumna se po
velikosti popolnoma ujemata z originalnim volumnom oz. 3D
ultrazvočnim posnetkom jajčnika.
Podatkovna
baza USOVA3D trenutno vsebuje 44 zapisov. Vsak zapis torej sestoji iz
petih datotek, in sicer: 3D ultrazvočnega posnetka, dveh datotek z
označbami jajčnika (ena datoteka za vsakega označevalca) ter dveh
datotek z označbami jajčnih mešičkov (ena datoteka za vsakega
označevalca). Vse datoteke so shranjene volumensko v formatu VTK.
Zavedamo
se, da 44 zapisov za podatkovno bazo ni veliko, a ker je raziskava še
v teku, pričakujemo, da bo velikost baze narasla vsaj na 100
zapisov.
3. SPLETNI SISTEM USOVA3D
Razvijamo
spletni portal, ki bo sprva omogočal dostop do podatkovne baze s
podatki o jajčnikih in mešičkih, kasneje pa bo nadgrajen z
možnostjo nepristranskega validiranja uspešnosti postopkov za
detektiranje jajčnih mešičkov. Portal bo omogočal rangiranje
rezultatov validiranih postopkov, s čimer bo omogočena direktna
primerjava med različnimi detekcijskimi postopki.
Prototipna
verzija portala teče v okolju linux, a je načeloma neodvisna od
operacijskega sistema in arhitekture. Uporabljena je kombinacija
strežnika Apache, podatkovne baze SQL in sistema za upravljanje z
vsebinami WordPress. Za validiranje se trenutno uporablja modificiran
sistem za obdelavo posnetkov v oblaku [4].
3.1 Dostop do podatkovne baze
Dostop do podatkovne baze bo omogočen zgolj avtoriziranim
uporabnikom. Uporabniki se v spletni portal prijavijo s pomočjo
storitve Google Sign-On, lahko pa zaprosijo tudi za lokalno geslo. V
razvoju je še dodatna možnost prijave preko Arnes AAI.
Ker gre za medicinske podatke, ki so bili zbrani v raziskovalnih
projektih, morajo uporabniki najprej sprejeti raziskovalno licenco.
Ker obstaja možnost za zlorabo uporabniških imen in s tem
neupravičenega dostopa do podatkovne baze, želimo hraniti podatke o
prijavah v portal ter prenosih vsebine, za kar v skladu z uredbo GDPR
potrebujemo uporabnikovo privolitev. Pričakujemo, da portal vsaj na
začetku ne bo beležil velikega obiska. Obstaja pa verjetnost, da bo
obisk čez čas poskočil, zato želimo tudi statistično spremljati
obisk avtoriziranih uporabnikov na naši spletni strani, da bomo
lahko ustrezno uravnavali sistemske vire za portal.
Uporabniki bodo bazo videli razdeljeno na dva dela. Prvi bo
predstavljal t. i. učno množico, ki bo nudila dostop do vseh petih
datotek, torej do 3D ultrazvočnega posnetka, dveh datotek z
označbami jajčnika in dveh datotek z označbami jajčnih mešičkov
(po ena datoteka za vsakega označevalca). Drugi del baze bo vseboval
testno množico posnetkov, od katerih bo uporabnikom omogočen dostop
le do 3D ultrazvočnih posnetkov, referenčne anotacije pa bodo
služile za validiranaje rezultatov, ki jih bodo uporabniki pošiljali
v preverjanje. Uporabniki bodo tako lahko svoje algoritme za
razpoznavanje jajčnih mešičkov razvijali s pomočjo učnega dela
podatkovne baze, njihovo uspešnost pa bodo potem potrjevali z zapisi
v testnem delu baze. Obseg obeh delov bomo z rastjo baze prilagajali
glede na njeno velikost in vsebino.
3.2 Validiranje rezultatov
Portal bo sprva omogočal zgolj validiranje podatkov na naši strani
(uporabniki bodo morali naložiti na portal rezultate algoritmov v
predpisani obliki), za kar bo uporabljal že obstoječo
infrastrukturo [4]. V kasnejšem razvoju bi radi implementirali še
t. i. “prenosni” validacijski sistem, ki ga bi uporabnik
prenesel na svoje računalnike, v njem zagnal validacijske teste,
sistem bi rezultate digitalno podpisal, uporabnik pa bi jih nato
naložil na naš portal.
3.3 Beleženje rezultatov
Pričakujemo, da se bo podatkovna baza občasno dopolnjevala z novimi
podatki, zato se bodo rezultati validacijskih testov rangirali za
vsako verzijo podatkovne baze posebej. Načrtujemo, da bo podatkovna
baza dopolnjena približno enkrat letno.
V tabeli rezultatov bodo zbrani podatki o detekcijskem postopku
(avtorji, ime postopka, DOI, če obstaja) ter njegovi uspešnosti.
Objavili bomo vse merjene metrike. Postopki bodo razvrščeni glede
na skupno uspešnost postopka.
4. PROTOKOL ZA VALIDIRANJE
REZULTATOV
Kadar skuša več neodvisnih opazovalcev opisati dogodke ali stvari
samo z dvema nasprotnima pojmoma, lahko ujemanje njihovih ugotovitev
dobro kvantificiramo z uveljavljenimi statističnimi indeksi. S tem
pa seveda še ne izvemo, kdo od opazovalcev se moti in kdo ne. Če
hočemo preveriti pravilnost njihovih zaznav, moramo poznati dejansko
stanje oziroma t. i. absolutno resnico.
Pri razpoznavanju jajčnih mešičkov v ultrazvočnih posnetkih se
srečamo s prav takšno situacijo. Opazujemo lahko le slike, na
katerih se mešički pojavljajo praviloma kot temnejša območja na
svetlejšem ozadju. Ultrazvočni posnetki vsebujejo celo vrsto
različnih motilnih pojavov, ki lahko močno zabrišejo jasne meje
med mešički in okolico. Njihove dejanske oblike, velikosti in
položaja torej na ta način ne moremo določiti absolutno natančno,
ampak jih lahko opredelimo le s subjektivno oceno. To velja seveda
tako za medicinskega strokovnjaka, ki označi vsebino ultrazvočnega
posnetka, kot za vsak računalniški razpoznavalni postopek.
Baza USOVA3D z zbirkami ultrazvočnih posnetkov in njihovih anotacij
je zasnovana dinamično. Sčasoma se bo število posnetkov v njej
večalo. Tako bodo statistične primerjave, ki bodo temeljile na
vpisih v bazi, postajale bolj nepristranske. Ne glede na to pa seveda
ne bomo mogli vedeti, kako dobro se kakšna ocena ujema z absolutno
resnico, ker te pri medicinskih ultrazvočnih posnetkih nikoli ni
mogoče poznati brez invazivnih posegov, tj. biopsije.
Trenutno še vedno velja, da je medicinski izvedenec uspešnejši
ocenjevalec struktur v ultrazvočnih posnetkih kot doslej znani
računalniški algoritmi. Zato jemljemo ročne anotacije jajčnih
mešičkov kot približke absolutni resnici: s primerjavo ocen več
neodvisnih označevalcev izboljšamo statistično pomembnost in
znižamo pristranskost. V bazi USOVA3D sta za vsak ultrazvočni
posnetek jajčnika prisotni po dve neodvisni oznaki mešičkov in
jajčnikov. Oznake se lahko razlikujejo tako po številu razpoznanih
mešičkov kot po njihovi označeni obliki oz. velikosti. Ker gre za
neodvisne oznake medicinskih izvedencev, jim lahko zaupamo tem bolj,
čim bolj se med seboj statistično ujemajo. Istočasno pa se lahko
primerjava z njimi uporabi tudi za ugotavljanje uspešnosti
računalniških postopkov, s katerimi želimo avtomatično odkrivati
mešičke v ultrazvočnih posnetkih jajčnikov.
Predstavljamo merila, s katerimi bomo ugotavljali ujemanje anotacij
vzporednih označevalcev ali detekcij iz računalniških postopkov z
anotacijami označevalcev. Oboje bo vključevalo statistične
indikatorje uspešnosti in točnosti razpoznav.
Ujemanje anotacij dveh neodvisnih označevalcev bo uporabljeno kot
ocena za kakovost anotacij v podatkovni bazi. Ocena bo objavljena in
se bo spreminjala z vsako spremembo v bazi, sestavljena pa bo iz
statističnih meril za ujemanje anotacij in mer za ugotavljanje
geometrijskih razlik med njimi.
Pri statistiki smo delno omejeni, ker ne moremo priti do podatkov o
pravilno negativnih odločitvah, kar pomeni, da ne moremo ugotoviti,
katere strukture v ultrazvočnem posnetku bi označevalec lahko
napačno razpoznal kot mešiček, pa jih ni. Odvisni smo torej le od
primerjav označenih območij dveh označevalcev, pri čemer enega
izberemo za referenčnega, ali razpoznav računalniškega postopka z
enim od označevalcev oz. s presekom oznak obeh označevalcev, kar se
jemlje kot referenca.
Če se primerjano območje vsaj nekoliko ujema z enim samim
referenčnim, to poveča število pravilno pozitivnih izidov (PP).
Če primerjano območje ne sovpada z nobenim referenčnim, s tem
poveča število lažno negativno odločitev (LN). Kadar
primerjano območje prekriva več referenčnih, štejemo največje
med referenčnimi k PP, ostale pa k LN. In nazadnje, če
referenčno območje pokriva več primerjanih območij, štejemo
največje med njimi kot PP za dano referenco, vse ostale pa
kot lažno pozitivne (LP).
Iz danih vrednosti lahko izračunamo občutljivost O in natančnost N:
$$O={{PP}\over{PP+LN}}, N={{PP}\over{PP+LP}}$$ | (1) |
Gotovo pa ni pomembno samo, da so mešički zaznani, ampak da so območja, ki jih predstavljajo, čim točneje orisana. Primerno informacijo o tem posreduje produkt \(\rho_1\rho_2\), uveden v [2]. Dobimo ga tako, da primerjamo volumne, ki ustrezajo hkrati primerjanemu in referenčnemu mešičku. Vrednost \(\rho_1\) primerja volumen preseka med označenima območjema istega mešička z volumnom referenčnega območja, \(\rho_2\) pa volumen preseka z volumnom primerjanega območja oz. mešička. Čim bolj se njun produkt približa 1, tem bolj se ujemata območji dveh oznak istih mešičkov. Vrednost \(\rho_1\rho_2= 0,65\), recimo, pomeni 80-odstotno, vrednost \(\rho_1\rho_2= 0,86\) pa že 93-odstotno ujemanje območij.
Uvajamo še tri mere točnosti, in sicer i) razmerje med skupnim volumnom primerjanih mešičkov (Vp) in skupnim volumnom vseh referenčnih mešičkov (Vr):
$$r_V = {V_p \over V_r},$$ | (2) |
ii) povprečno evklidsko razdaljo med površinami primerjanih in referenčnih mešičkov:
$$\overline{e}={1 \over M} \sum \mathop{}_{\mkern-5mu i \in (vsi\ površinski\ voksli)} E \left( \mathbf{p}_p(i)-\mathbf{p}_r(i) \right),$$ | (3) |
pri čemer pomeni M število vseh ujemajočih se površinskih vokslov na ujemajočih se mešičkih, E operator za računanje evklidske razdalje, pp(i) koordinate primerjanega in pr(i) koordinate referenčnega i-tega voksla, ter iii) povprečno absolutno razliko med premeri ekvivalentnih sfer, ki volumsko ustrezajo primerjanim in referenčnim mešičkom:
$$\overline{d}={1 \over N} \sum \mathop{}_{\mkern-5mu i \in (vsi\ mešički)} \left| d_p(i)-d_r(i) \right|,$$ | (4) |
pri čemer pomeni N število vseh ujemajočih se mešičkov,
dp(i) ekvivalentni premer
primerjanega, dr(i) pa ekvivalentni
premer referenčnega i-tega mešička.
Površinske voksle na mešičkih določimo tako, da od celotnega
območja mešička odštejemo morfološko skrčeno območje tega
mešička. Potem jih uparimo, tako da se vsak iz površine
primerjanega mešička poveže z najbližjim referenčnim vokslom.
5. SKLEP
V prispevku smo predstavili spletni sistem in javno podatkovno bazo
USOVA3D, ki sta namenjena nepristranemu ocenjevanju uspešnosti
algoritmov detektiranja mešičkov na 3D ultrazvočnih posnetkih
jajčnikov. Pri razvoju spletnega sistema smo se zgledovali po
uveljavljenih, javno dostopnih podatkovnih bazah s področja
prepoznavanja obraznih značilnosti in človeških emocij. Natančno
smo predpisali protokol za validiranje rezultatov, s čimer omogočamo
“pošteno” in nepristrano medsebojno primerjavo
detekcijskih algoritmov. Spletni sistem je v fazi prototipiranja,
zato še pričakujemo določene spremembe v implementaciji.
Podatkovna baza USOVA3D je zasnova tako, da jo je mogoče enostavno
periodično dopolnjevati z novimi posnetki in označbami. Načrtujemo,
da bomo do dvakrat letno podatkovno bazo dopolnili z novimi podatki
iz UKC. Vzpostavljamo še protokol za dopolnjevanje podatkovne baze
USOVA3D s podatki (tj. posnetki in označbami) drugih raziskovalnih
skupin. Pri tem bomo zahtevali, da bodo nove označbe lahko dodajali
zgolj relevantni eksperti. Pred dodajanjem podatkov v bazo USOVA3D
bodo posnetke in označbe potrdili eksperti iz UKC.
V prihodnosti želimo spletni sistem nadgraditi in uporabiti tudi za
tekmovanje algoritmov detektiranja mešičkov na 3D ultrazvočnih
posnetkih jajčnikov.
LITERATURA
- B. Cigale, D. Zazula (2019), Directional 3D Wavelet Transform Based on Gaussian Mixtures for the Analysis of 3D Ultrasound Ovarian Volumes, IEEE Transactions on Pattern Analysis and Machine Intelligence, vol. 41, št. 1, str. 64-77, DOI 10.1109/TPAMI.2017.2780248.
- B. Potočnik, D. Zazula (2001), Assessing the Efficiency of Segmentation Algorithms for Ultrasound Images, Electrotech. Rev., vol. 68, št. 2-3, str. 97-104.
- B. Potočnik, B. Cigale, D. Zazula (2012), Computerized detection and recognition of follicles in ovarian ultrasound images: a review, Medical & biological engineering & computing, vol. 50, št. 12, str. 1201-1212, DOI 10.1007/s11517-012-0956-y.
- S. Šinjur, J. Munda (2014), Iskanje podobnih video posnetkov kot spletna storitev v oblaku, Zbornik triindvajsete mednarodne Elektrotehniške in računalniške konference ERK 2014, Zv. B, str. 64-67.