Navigation überspringen
Universitätsbibliothek Heidelberg
Status: Bibliographieeintrag
Standort: ---
Exemplare: ---
heiBIB
 Online-Ressource
Verfasst von:Haußmann, Manuel [VerfasserIn]   i
 Hamprecht, Fred [VerfasserIn]   i
 Kandemir, Melih [VerfasserIn]   i
Titel:Sampling-free variational inference of Bayesian neural networks by variance backpropagation
Verf.angabe:Manuel Haußmann, Fred A. Hamprecht, Melih Kandemir
Jahr:2018
Umfang:15 S.
Fussnoten:Last revised 12 Jun 2019 ; Gesehen am 13.07.2022
Titel Quelle:Enthalten in: De.arxiv.org
Ort Quelle:[S.l.] : Arxiv.org, 1991
Jahr Quelle:2018
Band/Heft Quelle:(2018), Artikel-ID 1805.07654, Seite 1-15
Abstract:We propose a new Bayesian Neural Net formulation that affords variational inference for which the evidence lower bound is analytically tractable subject to a tight approximation. We achieve this tractability by (i) decomposing ReLU nonlinearities into the product of an identity and a Heaviside step function, (ii) introducing a separate path that decomposes the neural net expectation from its variance. We demonstrate formally that introducing separate latent binary variables to the activations allows representing the neural network likelihood as a chain of linear operations. Performing variational inference on this construction enables a sampling-free computation of the evidence lower bound which is a more effective approximation than the widely applied Monte Carlo sampling and CLT related techniques. We evaluate the model on a range of regression and classification tasks against BNN inference alternatives, showing competitive or improved performance over the current state-of-the-art.
DOI:doi:10.48550/arXiv.1805.07654
URL:Bitte beachten Sie: Dies ist ein Bibliographieeintrag. Ein Volltextzugriff für Mitglieder der Universität besteht hier nur, falls für die entsprechende Zeitschrift/den entsprechenden Sammelband ein Abonnement besteht oder es sich um einen OpenAccess-Titel handelt.

Volltext ; Verlag: https://doi.org/10.48550/arXiv.1805.07654
 Volltext: http://arxiv.org/abs/1805.07654
 DOI: https://doi.org/10.48550/arXiv.1805.07654
Datenträger:Online-Ressource
Sprache:eng
Sach-SW:Computer Science - Machine Learning
 Statistics - Machine Learning
K10plus-PPN:181009206X
Verknüpfungen:→ Sammelwerk

Permanenter Link auf diesen Titel (bookmarkfähig):  https://katalog.ub.uni-heidelberg.de/titel/68941171   QR-Code
zum Seitenanfang