Titel: Geometrie-gegrond representatieleren
Spreker: Erik Bekkers
Wanneer: maandag 18 november 15-16.00 uur
Waar: LAB42 L3.36, Online: https://uva-live.zoom.us/j/81510587923?pwd=bXbUElREqUydae5QQ3FudeRrakbO86.1 

 

Deze lezing introduceert nieuwe ideeën voor het leren van betrouwbare representaties door expliciet de geometrische structuur te behouden. Ik zal recent werk presenteren waarin we data behandelen als velden met geometrische latente variabelen, gemodelleerd via equivalente neurale velden [1]. De equivalentierelatie zorgt ervoor dat de latente variabelen geometrisch betekenisvol zijn, wat we laten zien door middel van verschillende classificatie- en segmentatie-experimenten. Vervolgens laat ik zien dat dit continue PDE-voorspellingen mogelijk maakt, geheel in de latente ruimte [2]. Dat wil zeggen, in plaats van een PDE op de velden te modelleren, modelleren we de gelijkwaardige dynamiek door middel van gelijkwaardige neurale ODE's toegepast op de geometrische latente variabelen. Ik zal verder de nadruk leggen op een algemeen begrip van het delen van gewichten als het delen van operaties over gelijkwaardigheidsklassen van puntenparen [3]. Via dit principe hebben we een gelijkwaardig neuraal netwerk voor algemene doeleinden ontwikkeld dat state-of-the-art prestaties levert bij een breed scala aan taken, van regressie tot segmentatie en de generatie van nieuwe moleculen. Ik sluit af met ons meest recente werk over ontwerpbare (en dus interpreteerbare) latente ruimte door middel van isometrie-leren en pull-back-geometrie [4].

 

[1] Wessels, D.R., Knigge, D.M., Papa, S., Valperga, R., Vadgama, S., Gavves, E., & Bekkers, E.J. (2024). Het aarden van continue representaties in de geometrie: gelijkwaardige neurale velden. arXiv voordruk arXiv:2406.05753. ISO690
[2] [aanvaard op Neurips 2024] Knigge, D.M., Wessels, D.R., Valperga, R., Papa, S., Sonke, J.J., Gavves, E., & Bekkers, E.J. (2024). Ruimte-tijd continue PDE-voorspelling met behulp van equivalente neurale velden. arXiv voordruk arXiv:2406.06660.
[3] Bekkers, E.J., Vadgama, S., Hesselink, R., Van der Linden, P.A., & Romero, D.W. Snel, expressief $\mathrm {SE}(n) $ Equivariante netwerken door gewichtsdeling in positieoriëntatie Ruimte. In de twaalfde internationale conferentie over leerrepresentaties. ISO690
[4] de Kruiff, F., Bekkers, E., Öktem, O., Schönlieb, C. B., & Diepeveen, W. (2024). Pullback Flow Matching op gegevensspruitstukken. arXiv voordruk arXiv:2410.04543