Neural networks for computationally expensive problems

Abstract

Optimointiin tarvitaan usein simulaattoria, jotka voivat olla laskennallisesti raskaita. Simulaattorit voidaan korvata sijaismalleilla, jotka ovat nopeampi laskea ja voivat olla lähes yhtä tarkkoja kuin simulaattorit. Tässä työssä tarkastelemme tarkemmin yhtä sijaismalli, neuroverkkoja. Valmistelemme sijaismalli avusteista optimointia rakentamalla, opettamalla ja validoimalla erilaisia neuroverkkoja sijaismalliksi. Lisäksi vertailemme eri data samplaustekniikoilla generoitujen opetusdatojen vaikutusta neuroverkkojen approksimointitarkkuuteen.

Optimization often involves usage of a simulator, which can be computationally expensive to use. Simulators can be replaced by surrogate models, which are computationally cheaper and can be almost as accurate as the simulators. In this thesis we consider closer a surrogate model, namely neural networks. We prepare surrogate assisted optimization by building, training and validating different neural network models for a surrogate model. In addition we compare how different training data sets, which are generated by different data sampling techniques, effect the generalization accuracy of neural networks.