Välimuistiolion tuottamisen keston huomioiva ennaltahaku

Abstract

Web-teknologiat kehittyvät jatkuvasti ja samalla on nähtävissä suuntaus kohti enemmissä määrin dynaamisempaa ja yksilöidympää web-sisältöä. Yksilöidyn sisällön tuottamiseen vaaditaan tyypillisesti käyttäjän tunnistautuminen web-palveluun, josta johtuva istuntotiedon käyttäminen web-sisällön tuottamisessa tekee lähes jokaisesta sivupyynnöstä yksilöidyn ja siten välimuistitekniikoiden käyttö vaikeutuu. Tästä huolimatta välimuistin osumatarkkuutta on mahdollista tehostaa ennaltageneroimalla osumatarkkuuteen positiivisesti vaikuttavia olioita valmiiksi välimuistiin. Ennaltageneroinnin ja välimuistin yhdistelmä nostaa osumatarkkuutta, jolla pyynnöt osuvat välimuistiin ja siten vähentää sisällön generoinnin viivettä. Tässä tutkimuksessa keskityttiin tekniikoihin, joiden avulla on mahdollista tehostaa web-sisällön tarjoamista käyttäjälle. Tavoitteena oli löytää hyvä malli välimuistin ja ennaltageneroinnin yhdistelmälle, jotta käyttäjän kokemaa viivettä saataisiin vähennettyä ja pyyntöjen välisiä viive-eroja tasoitettua. Tutkimuksessa esiteltiin olemassa olevien ajatusmallien vertailukohdaksi uusi kuormitusta tavoitteleva ahne kustannusfunktio. Tämä maksimaaliseen taustajärjestelmän kuormitukseen tähtäävä kustannusfunktio suunniteltiin valitsemaan välimuistiolion tuottamisen kestoltaan pitkäkestoisimmat ja samaan aikaan eniten välimuistin osumatarkkuutta kasvattavat välimuistioliot. Tutkimuksen konstruktio-osuudessa mallinnettiin ennakoivan välimuistiratkaisun malli ja koostettiin lista keskeisistä vaatimuksista aiempien tutkimusten haasteisiin vastaamiseksi. Kustannusfunktioita vertailevissa simulaatioissa havaittiin, ettei uusi kuormitusta tavoitteleva ahne kustannusfunktio suoriutunut riittävällä tasolla. Tämän lisäksi simulaatiotulokset osoittivat kuormitusta tavoittelevasta ajatusmallista johtuvan sietämättömän suuren kaistankulutuksen. Olemassa olevat ennaltageneroinnin ajatusmallit todettiin kuitenkin ennakoivan välimuistiratkaisun malliin soveltuviksi ja suosittelemisen arvoisiksi kustannusfunktioiksi. Tämän tutkimuksen tuloksia voidaan hyödyntää ennakoivan välimuistiratkaisun toteutuksen lähtökohtana.

Web technologies are constantly evolving, and at the same time a tendency can be seen in page contents being more dynamic and personalized than ever before. With personalized pages comes the need to distinguish content based on session object at the Web application server. This leads to non-overlapping requests and thus complicates the use of Web caching. Regardless of the impact of personalized content, the overall hit ratio of a Web cache can be improved by prefetching some of objects in to cache, based on their contribution towards the cache hit ratio. Hence the combination of Web caching and prefetching results in improvement of cache hit ratio, leading to latency reduction. The objective of this study was to investigate how to reduce the generation delay of Web content on Web application servers. The goal was to find a good model for combination of Web prefetching and caching, in order to decrease the user perceived latency and to achieve more homogeneous delay times between requests. A new stress greedy cost function was introduced to be compared with the existing prefetching paradigms. Aiming at maximum stress towards the backend servers the cost function was designed to select the objects with longest content generation delays and objects that at the same time had the greatest hit rate increase factors. In the construction part of this thesis a cache prefetching model was designed and a list of essential requirements was combined to overcome common obstacles encountered in earlier studies. Comparative simulations between different cost functions resulted in performance deficiency with the new stress greedy cost function. Also an intolerable rate of bandwidth consumption was observed to accompany the stress greedy paradigm. However, the existing paradigms were considered as usable cost functions and were suggested be used in the designed cache prefetching model. The results of this study can be used as a baseline when implementing a cache prefetching mechanism in a Web application.