Tien vaten met het erts werden gevonden nabij de grens met Tsjaad, zei het hoofd van de media-eenheid van de strijdmacht.
Het IAEA zei dat het « actief aan het werk was om de mediaberichten te verifiëren ».
Het bureau sloeg alarm nadat zijn inspecteurs eerder deze week de geheime locatie hadden bezocht.
Het gebied ligt niet in door de regering gecontroleerd gebied.
Uranium is een natuurlijk voorkomend element dat kan worden gebruikt voor nucleaire doeleinden nadat het is verfijnd of verrijkt.
Het verarmd uranium kan in zijn huidige staat niet worden omgezet in een kernwapen, maar kan worden gebruikt als grondstof voor een kernwapenprogramma, hebben experts de BBC verteld.
In december 2003 deed Libië onder de toenmalige militaire leider kolonel Muammar Gaddafi publiekelijk afstand van nucleaire, biologische en chemische wapens en stemde ermee in zich te beperken tot het bezit van ballistische raketten met een bereik van niet meer dan 300 km (186 mijl).
Maar sinds de afzetting van kolonel Gaddafi in 2011 is het land verdeeld in rivaliserende politieke en militaire facties.
Het is momenteel verdeeld tussen een interim, internationaal erkende regering in de hoofdstad Tripoli en een andere regering in het oosten van het land.
Geen van beiden controleert het zuidelijke deel van het land, waar het uranium werd meegenomen.
De aankondiging van donderdag dat de vaten waren gevonden, werd gedaan door het zelfverklaarde Libische Nationale Leger, de strijdmacht die het bestuur in Oost-Libië ondersteunt.
De LNA is een coalitie van militaire eenheden, lokale, tribale en salafistische milities onder leiding van veldmaarschalk Khalifa Haftar, een ervaren officier die deelnam aan de staatsgreep die kolonel Gaddafi in 1969 aan de macht bracht.
Generaal Khaled al-Mahjoub, commandant van de communicatieafdeling van het LNA, zei dat de uraniumcontainers « slechts vijf kilometer » van hun opslagplaats in het zuiden van Libië zijn gevonden.
Het IAEA zegt dat de site de afgelopen tijd moeilijk te bereiken was.
Inspecteurs wilden vorig jaar de locatie bezoeken, maar de reis moest worden uitgesteld vanwege gevechten tussen rivaliserende Libische milities.
Veel buitenlandse regeringen en groepen strijden om invloed in Libië sinds door de NAVO gesteunde troepen kolonel Gaddafi hebben verdreven. Onder hen zijn de Russische groep « Wagner » en de strijders van de « Islamitische Staat ».
Het olierijke land is grotendeels wetteloos en werd eerder beschreven als een « wapenimperium ».
In 2013 meldden de VN dat wapens die uit Libië werden gesmokkeld, conflicten aanwakkerden in andere delen van Afrika en het Midden-Oosten.
Het ontbrekende uranium had de vorm van een concentraat dat bekend staat als « yellowcake » en « in zijn huidige vorm is er echt geen straling », zegt Scott Reoker van het Nuclear Threat Initiative, een wereldwijde veiligheidsorganisatie die zich bezighoudt met nucleaire kwesties.
Hij vertelde de BBC Newsday dat er gevreesd werd dat het zou kunnen worden gebruikt als « grondstof » voor een kernwapenprogramma.
De heer Roecker suggereerde dat het mogelijk voor andere doeleinden zou kunnen worden gebruikt, zoals kernenergie, maar wees erop dat landen materiaal voor dit doel meestal op de open markt kopen.
“Misschien is het gestolen door iemand die er geld mee wilde verdienen? Daar zijn veel scenario’s voor’, zei hij.
