<html>
<head>
<style><!--
.hmmessage P
{
margin:0px;
padding:0px
}
body.hmmessage
{
font-size: 12pt;
font-family:Calibri
}
--></style></head>
<body class='hmmessage'><div dir='ltr'>Hi Lambertus,<br><br>maybe also look at <br><a href="https://wiki.openstreetmap.org/wiki/Mkgmap/help/splitter" target="_blank">https://wiki.openstreetmap.org/wiki/Mkgmap/help/splitter#Tuning</a><br><br>(the page needs some updates, but that part is correct)<br><br>Gerd<br><br><div>&gt; Date: Thu, 8 May 2014 09:31:28 +0200<br>&gt; From: osm@na1400.info<br>&gt; To: mkgmap-dev@lists.mkgmap.org.uk<br>&gt; Subject: Re: [mkgmap-dev] splitter r325: improved split algo and new option<br>&gt; <br>&gt; Thanks Gerd! This is valuable information for those of us processing <br>&gt; large areas of the planet.<br>&gt; <br>&gt; Unfortunately there is no additional speedup for me because I already <br>&gt; use o5m because of osmupdate (to keep a local planet copy up-to-date).<br>&gt; <br>&gt; On 07/05/2014 11:59, Gerd Petermann wrote:<br>&gt; &gt; Hi Felix,<br>&gt; &gt;<br>&gt; &gt; try o5m for both input and output, it is much faster.<br>&gt; &gt; The command<br>&gt; &gt; osmcovert --drop-version europe-latest.osm.pbf -o=europe.o5m<br>&gt; &gt; runs quite fast (~70 seconds on my machine),<br>&gt; &gt; the o5m file is ~2.430 MB, the pbf file has 2.104 MB.<br>&gt; &gt;<br>&gt; &gt; Splitter is much faster reading from o5m when<br>&gt; &gt; the keep-complete option is in use.<br>&gt; &gt; (210 secs for the o5m, 441 for pbf)<br>&gt; &gt;<br>&gt; &gt; With --output=pbf both are slower, and mkgmap is also much slower.<br>&gt; &gt;<br>&gt; &gt; All times with I/O on one normal hard disk. Even better results if you have<br>&gt; &gt; two different disks for reading and writing.<br>&gt; &gt;<br>&gt; &gt; Gerd<br>&gt; &gt;<br>&gt; &gt; ------------------------------------------------------------------------<br>&gt; &gt; Date: Wed, 7 May 2014 11:37:58 +0200<br>&gt; &gt; From: extremecarver@gmail.com<br>&gt; &gt; To: mkgmap-dev@lists.mkgmap.org.uk<br>&gt; &gt; Subject: Re: [mkgmap-dev] splitter r325: improved split algo and new option<br>&gt; &gt;<br>&gt; &gt; Well I still use pbf and not o5m.<br>&gt; &gt; First pbf is smaller..<br>&gt; &gt; Second - Geofabrik only offers pbf - that's why I stayed with it.<br>&gt; &gt;<br>&gt; &gt; I don't think I can cut a lot of time by first converting to 05m, then<br>&gt; &gt; hand it over to splitter...<br>&gt; &gt; Actually I also let splitter output pbf... Maybe I could change that in<br>&gt; &gt; future to 05m..<br>&gt; &gt; On 07.05.2014 11:36, Gerd Petermann wrote:<br>&gt; &gt;<br>&gt; &gt;     Hi Felix,<br>&gt; &gt;<br>&gt; &gt;     well, nowadays splitter performance mostly depends on I/O if you use<br>&gt; &gt;     o5m format<br>&gt; &gt;     for input and output and give enough heap.<br>&gt; &gt;<br>&gt; &gt;     Reg. mkgmap performance improvements: yes, that's what I expected.<br>&gt; &gt;     In short, the branch improved the evaluation of tags and the<br>&gt; &gt;     creation of the NOD file.<br>&gt; &gt;<br>&gt; &gt;     Gerd<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;     ------------------------------------------------------------------------<br>&gt; &gt;     Date: Wed, 7 May 2014 11:29:10 +0200<br>&gt; &gt;     From: extremecarver@gmail.com &lt;mailto:extremecarver@gmail.com&gt;<br>&gt; &gt;     To: mkgmap-dev@lists.mkgmap.org.uk<br>&gt; &gt;     &lt;mailto:mkgmap-dev@lists.mkgmap.org.uk&gt;<br>&gt; &gt;     Subject: Re: [mkgmap-dev] splitter r325: improved split algo and new<br>&gt; &gt;     option<br>&gt; &gt;<br>&gt; &gt;     Well - I'll update all my maps on Thursday again, to recheck. Maybe<br>&gt; &gt;     it has to do with increasing-maxnodes? Though I thought the higher<br>&gt; &gt;     the max-nodes, the faster...<br>&gt; &gt;     And I only meant splitter. I upgraded mkgmap at the same time (now<br>&gt; &gt;     integrating performance branch changes) - so mkgmap by itself got<br>&gt; &gt;     faster (though it depends on the country - seems like well mapped<br>&gt; &gt;     countries profit a lot more (e.g. Austria like 30% time off), than<br>&gt; &gt;     countries where few continue commands will be in action cause their<br>&gt; &gt;     mapping is basic like Asia).<br>&gt; &gt;<br>&gt; &gt;     I'm not using any pre-split files or cached files of any sort either...<br>&gt; &gt;     On 07.05.2014 06:49, Gerd Petermann wrote:<br>&gt; &gt;<br>&gt; &gt;         Hi Felix,<br>&gt; &gt;<br>&gt; &gt;         reg. speed: I can't reproduce that. I compared a split of Germany,<br>&gt; &gt;         both versions (r321 and r325) are more or less running the same<br>&gt; &gt;         time.<br>&gt; &gt;         (I've executed both programs two times to make sure that disk<br>&gt; &gt;         caches<br>&gt; &gt;         are not causing big differences)<br>&gt; &gt;<br>&gt; &gt;         Or did you mean the combination of splitter + mkgmap to process<br>&gt; &gt;         e.g. Asia?<br>&gt; &gt;<br>&gt; &gt;         Gerd<br>&gt; &gt;<br>&gt; &gt;         ------------------------------------------------------------------------<br>&gt; &gt;         Date: Tue, 6 May 2014 18:22:00 +0200<br>&gt; &gt;         From: extremecarver@gmail.com &lt;mailto:extremecarver@gmail.com&gt;<br>&gt; &gt;         To: mkgmap-dev@lists.mkgmap.org.uk<br>&gt; &gt;         &lt;mailto:mkgmap-dev@lists.mkgmap.org.uk&gt;<br>&gt; &gt;         Subject: Re: [mkgmap-dev] splitter r325: improved split algo and<br>&gt; &gt;         new option<br>&gt; &gt;<br>&gt; &gt;         Seems to be much better now. I don't think I can increase the<br>&gt; &gt;         max-nodes value though, but for most maps the new algo creates<br>&gt; &gt;         less tiles for the same max-nodes value (e.g. Austria from 43<br>&gt; &gt;         down to 35 for me, with the smallest tile now around 5MB instead<br>&gt; &gt;         of 2.8, and the biggest 12MB instead of 11MB, for Asia I<br>&gt; &gt;         simultaneously increased max-nodes from 800k to 900k- so I'm<br>&gt; &gt;         down from 624 tiles to 493.... and size from 970KB-16MB to now<br>&gt; &gt;         ). So it still seems to depend on the country, but it's already<br>&gt; &gt;         a lot better...<br>&gt; &gt;         It's a bit slower (about 10% more time)<br>&gt; &gt;<br>&gt; &gt;         On 06.05.2014 13:56, Gerd Petermann wrote:<br>&gt; &gt;<br>&gt; &gt;             Hi all,<br>&gt; &gt;<br>&gt; &gt;             I've applied num-tiles-v1.patch  and improved the split<br>&gt; &gt;             algo, see<br>&gt; &gt;             http://gis.19327.n5.nabble.com/mkgmap-ToDo-list-tp5803388p5805165.html<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;             It is now less likely that splitter creates tiles with a low<br>&gt; &gt;             number of<br>&gt; &gt;             nodes, it is more likely that all tiles have nearly the same<br>&gt; &gt;             number of nodes,<br>&gt; &gt;             and typically you will see fewer tiles.<br>&gt; &gt;             Maybe this also means that you can increase the max-nodes value.<br>&gt; &gt;<br>&gt; &gt;             I hope this also reduces the need for complex interactions<br>&gt; &gt;             between<br>&gt; &gt;             spltter and mkgmap.<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;             Gerd<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;             _______________________________________________<br>&gt; &gt;             mkgmap-dev mailing list<br>&gt; &gt;             mkgmap-dev@lists.mkgmap.org.uk  &lt;mailto:mkgmap-dev@lists.mkgmap.org.uk&gt;<br>&gt; &gt;             http://www.mkgmap.org.uk/mailman/listinfo/mkgmap-dev<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;         --<br>&gt; &gt;         keep on biking and discovering new trails<br>&gt; &gt;<br>&gt; &gt;         Felix<br>&gt; &gt;         openmtbmap.org &amp;www.velomap.org  &lt;http://www.velomap.org&gt;<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;         _______________________________________________ mkgmap-dev<br>&gt; &gt;         mailing list mkgmap-dev@lists.mkgmap.org.uk<br>&gt; &gt;         &lt;mailto:mkgmap-dev@lists.mkgmap.org.uk&gt;<br>&gt; &gt;         http://www.mkgmap.org.uk/mailman/listinfo/mkgmap-dev<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;         _______________________________________________<br>&gt; &gt;         mkgmap-dev mailing list<br>&gt; &gt;         mkgmap-dev@lists.mkgmap.org.uk  &lt;mailto:mkgmap-dev@lists.mkgmap.org.uk&gt;<br>&gt; &gt;         http://www.mkgmap.org.uk/mailman/listinfo/mkgmap-dev<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;     --<br>&gt; &gt;     keep on biking and discovering new trails<br>&gt; &gt;<br>&gt; &gt;     Felix<br>&gt; &gt;     openmtbmap.org &amp;www.velomap.org  &lt;http://www.velomap.org&gt;<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;     _______________________________________________ mkgmap-dev mailing<br>&gt; &gt;     list mkgmap-dev@lists.mkgmap.org.uk<br>&gt; &gt;     &lt;mailto:mkgmap-dev@lists.mkgmap.org.uk&gt;<br>&gt; &gt;     http://www.mkgmap.org.uk/mailman/listinfo/mkgmap-dev<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt;     _______________________________________________<br>&gt; &gt;     mkgmap-dev mailing list<br>&gt; &gt;     mkgmap-dev@lists.mkgmap.org.uk  &lt;mailto:mkgmap-dev@lists.mkgmap.org.uk&gt;<br>&gt; &gt;     http://www.mkgmap.org.uk/mailman/listinfo/mkgmap-dev<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt; --<br>&gt; &gt; keep on biking and discovering new trails<br>&gt; &gt;<br>&gt; &gt; Felix<br>&gt; &gt; openmtbmap.org &amp;www.velomap.org  &lt;http://www.velomap.org&gt;<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt; _______________________________________________ mkgmap-dev mailing list<br>&gt; &gt; mkgmap-dev@lists.mkgmap.org.uk<br>&gt; &gt; http://www.mkgmap.org.uk/mailman/listinfo/mkgmap-dev<br>&gt; &gt;<br>&gt; &gt;<br>&gt; &gt; _______________________________________________<br>&gt; &gt; mkgmap-dev mailing list<br>&gt; &gt; mkgmap-dev@lists.mkgmap.org.uk<br>&gt; &gt; http://www.mkgmap.org.uk/mailman/listinfo/mkgmap-dev<br>&gt; &gt;<br>&gt; <br>&gt; _______________________________________________<br>&gt; mkgmap-dev mailing list<br>&gt; mkgmap-dev@lists.mkgmap.org.uk<br>&gt; http://www.mkgmap.org.uk/mailman/listinfo/mkgmap-dev<br></div>                                               </div></body>
</html>