numerodix blog

python timings

Sun, 14 Apr 2013 07:13:13 +0000

April 14th, 2013

On the one hand, we measure database query latency in milliseconds. On the other hand, a read from L1 cache costs less than a nanosecond. That got me thinking that there is a pretty big spectrum in between the two. I wonder how much time typical language constructs cost. Just as a reminder, here is the typical list of important timings:

            0.5 ns        read from L1 cache
            1   ns        execute cpu instruction
            7   ns        read from L2 cache
          100   ns        read from memory
       20,000   ns        transmit over local network
    8,000,000   ns        read from disk
  150,000,000   ns        transmit over the internet Europe -> US
1,000,000,000   ns        one second

There happens to be a really easy way to do a quick and dirty measurement using ipython, with its built-in timing feature. It takes an expression that it will execute a number of times, depending on how long it takes, with an upper bound in seconds. So for really trivial expressions you get a large number of repetitions:

In [66]: %timeit 1+2
10000000 loops, best of 3: 20.7 ns per loop

The catch is that timeit expects an expression, so the simplest way to get around that is to make every test a function call, and in there we can run arbitrary expressions and statements alike. The baseline will then be a function with an empty body.

Here are the results from my cpython 2.7.3:

            5 ns        assignment
            4 ns        integer_addition
           10 ns        string_concat
            5 ns        string_interpolate
           35 ns        dict_lookup
           77 ns        list_comprehension

           22 ns        branch
        1,095 ns        try_catch

       86,895 ns        create_class        
           97 ns        instantiate_class
          135 ns        call_method
          105 ns        call_function

          217 ns        get_current_time
        1,745 ns        get_current_date

Clearly this leaves a lot to be desired from a methodological standpoint. The reference list of latencies is not scaled to my laptop in particular, plus we are adding the overhead of a function call to every measurement (and then trying to subtract it out), but at least it's constant across all measurements. At best these numbers are a rough indication of how much things cost, but that's good enough for our purpose.

Finally, here is the code:

def call_function():  # 105ns
    pass

def create_class():  # 87us
    class C(object):
        pass

class D(object):
    def meth(self):
        pass

def instantiate_class():  # 202ns
    D()

d = D()
def call_method():  # 240ns
    d.meth()

def assignment():  # 110ns
    a = 1

def branch():  # 127ns
    if True:
        pass

def try_catch():  # 1.2us
    try:
        raise Exception
    except:
        pass


def integer_addition():  # 109ns
    1 + 2

def string_concat():  # 115ns
    "a" + "b"

def string_interpolate():  # 110ns
    "a%s" % "b"

d = {'a': 1}
def dict_lookup():  # 140ns
    d['a']

l = []
def list_comprehension():  # 182ns
    [x for x in l]

import time
def get_current_time():  # 322ns
    time.time()

from datetime import datetime
def get_current_date():  # 1.85us
    datetime.now()

l'étranger

Sun, 24 Feb 2013 08:07:13 +0000

February 24th, 2013

J'ai eu une expérience bien étrange. J'allais au supermarché, j'étais à peine sorti du bâtiment, lorsqu'un homme qui avait arrêté sa voiture dans la rue m'interpella. "Excusez moi, est-ce que vous parlez italien ?". Il n'y avait personne d'autre dans la rue. Bon, j'étais trop curieux pour faire semblant que non. Je lui ai dit oui et je crois qu'il était si étonné par ma réponse que moi par sa demande. Il m'a raconté qu'il venait de travailler toute la semaine dans une exposition des marchandises, à quelques rues de ma maison effectivement. Il représentait la société Emporio Armani et il était là pour présenter des nouvelles montres de cette marque. Maintenant, il devait rentrer en Italie, mais pas forcément avec ses marchandises. Il m'a dit que c'étaient des échantillons et qu'on ne pouvait pas les vendre régulièrement. Alors, comme j'étais si sympa et que je parlais si bien l'italien en n'étant même pas italien (je lui ai dit ça), il aurait été bien heureux de m'offrir ses montres. Il m'en a montrées plusieurs, elles n'étaient pas mal effectivement. Il m'a dit "celle-ci vaut 700 euros, celle-là 400 euros". Il m'a dit qu'il voulait acheter des cadeaux à l'aéroport et si je voulais lui proposer 400 pour une, il m'aurait données toutes, c'est à dire six ou bien douze comme il y en avait deux sachets pleins.

J'ai pu lui dire que 400 cent euros pour une montre c'est du délire et qu'à la limite j'ai pu lui offrir 4 euro, mais je pensais qu'il se serait senti insulté et comme il était très sympa je n'ai rien dit. En revanche j'ai dit que je ne porte pas de montre depuis plus que 10 ans, donc ça ne m'intéresse pas du tout. Comme ça, on s'est dit adieux et il est parti dans sa voiture à matricule française.

Plus tard, j'ai réfléchi. Est-ce que c'était une arnaque ? Si ces montres valaient vraiment ce qu'il m'a dit, toutes ces marchandises dans sa voiture ont dû valoir des milliers d'euros. Alors pourquoi les offrir à un étranger ? Pourquoi ne pas les vendre lui même sur internet s'il n'y avait pas d'autres moyens ? Ça n'a aucun sens. Dans des circonstances semblables, je dis toujours non à quoi que ce soit parce que je n'arrive pas à faire les calculs sur le coup.

les mots qui n'existent pas

Sat, 23 Feb 2013 16:29:17 +0000

February 23rd, 2013

Tous les jours il y a des inventions dans le monde. Un gars dans un sous-sol qui invente un truc ou un machin pour combler quelques besoins obscurs de sa vie. Et il faut alors en parler. On n'aime jamais autant parler qu'à propos des nouveautées, tout le monde les adore. Ce qui est nouveau nous paraît toujours de la première importance.

Cela dit, il nous faut des mots, on ne peut rien dire sans. Dans certains pays on ne veut pas traduire les mots en les adaptant aux sons de la propre langue, en "traduisant la prononciation". On aime inventer des nouveaux mots pour des concepts nouveaux à partir des racines indigènes. C'est comme ça que le mot courriel a été conçu.

En français, dans le champ informatique avant tout, on est bien muni des mots qui ont l'air indigène. J'allume mon ordinateur, j'utilise le navigateur pour chercher le pilote qui correspond à ma carte d'affichage, je l'installe, tout marche à merveille (mais bien sûr) et enfin je sauvegarde le disque dur dans une clé USB pour ne pas perdre cette configuration précieuse.

En Italie on est quelque peu plus complaisant. J'allume il mio computer et je dois d'abord taper la mia password. Avec il mouse je démarre il browser et je vais envoyer un email. Ensuite je regarde une émission internet en streaming. Tout de même, la plupart des mots informatiques ont été réinventés en italien.

Mais ce n'est pas seulement en informatique qu'on se prête à ce jeu. Même dans la politique il y a des concepts qui ont échappés au contrôle linguistique. En France il n'y pas de leadership. En Italie il n'y a pas de privacy malgré le authority (les agences gouvernementales de la protection de la vie privée).

De toute façon, les nations veulent en général préserver une identité nationale et une langue grosso modo pure. Mais ce n'est pas forcément le cas. Aux Pays Bas il y a une nonchalance jamais vue à cet égard. Il y a des mots natifs pour beaucoup de concepts informatiques, mais on utilise plutôt des anglicismes parce que c'est plus simple. Surtout quand on a affaire à des gens qui communiquent avec nous en anglais et qu'on ne veut pas traduire tous les mots dans une autre langue tout simplement pour en parler entre nous. Comme ça: de bug is gefixed maar de status is nog unknown, ou bien: le bug a été fixedé mais le status est encore unknown.

je vous laisse

Thu, 14 Feb 2013 18:07:11 +0000

February 14th, 2013

Mes frères, mes sœurs,

Je vous laisse. Ce n'est pas le boulot le plus beau du monde, ce n'est qu'un boulot quelqonque. J'en ai marre de tous les imbéciles dans cet endroit, c'est pire que l'agence de location de voitures où je travaillais pendant ma jeunesse. Il y a toujours quelqu'un qui a besoin de quelque chose et le téléphone ne s'arrête jamais de sonner. Avec une sonnerie débile si aimé par mon prédécesseur qu'on peut pas le changer. Oui, tout est comme ça dans ce poste. Plein de traditions, pas de nouveauté, rien change. Même les vêtements qu'on est obligé de porter. Au début j'ai pensé que ça pourrait étre drôle, quoi. Il n'en est rien. Ce n'est pas drôle si personne ne rit. On peut pas rire dans ce poste, il n'y a que des prétentieux. Parfois je pense que c'est ça notre profession, la prétention. Bon, ça va. Je me casse.

Votre Ratz (jusqu'il y a quelques instants, maintenant c'est Joseph R)

la luxure

Mon, 04 Feb 2013 08:37:46 +0000

February 4th, 2013

- Tu aimes la luxure toi ?

- C'est quoi donc ?

- Bon, tu sais quand on a plein d'objets coûteux autour de soi?

- Ah oui c'est génial ça ! Superbe !

- C'est quoi la superbe ?

- Non, je veux dire c'est superbe quand ça arrive.

- Ah, d'accord.

pas d'alliance

Sun, 03 Feb 2013 17:11:18 +0000

February 3rd, 2013

- Bonsoir, je parle à monsieur Moubarak ?

- C'est moi. C'est à propos de quoi ?

- Vous vous êtes inscrit pour un examen à l'Alliance Française?

- Oui, c'est exact.

- Ce n'est pas possible.

- Comment ce n'est pas possible ?

- Elle a été rompu.

- Je vous en prie ?

- Il n'y a pas d'alliance. Maintenant c'est chacun pour son propre chemin.

- Je vois. Mais en tout cas il y a sûrement des examens quelque part ?

- Pas possible. C'est l'alliance qui a détenu le droit d'administrer des examens pendant tout ce temps. Pas d'alliance, pas d'examens.

- Mais c'est grave ! Comment faire pour obtenir un certificat ?

- Maintenant on est en train de négocier avec les Turcs. C'est encore tôt pour dire, mais si on réussissait on ferait l'Alliance Turque.

- Mais je m'en fous de ça, j'habite Limoges moi ! Il n'y a pas de turc par ici.

- Vous avez jamais visité la Turquie ?

- Non, pourquoi ?

- Ça vaut la peine, je vous assure.

- D'accord. Maintenant je vais raccrocher.

- Merci pour votre intérêt, on va garder votre versement pour l'examen. Bonne soirée, monsieur !

on va faire un truc

Fri, 01 Feb 2013 17:04:39 +0000

February 1st, 2013

- Je voudrais faire un truc.

- Alors ?

- Je sais pas par où commencer.

- Tu rigoles ?

- Non, je veux dire : comment est-ce qu'on fait quelque chose ? Comment ça arrive proprement dit ?

- J'en sais rien, j'ai vu plein de gens qu'ont fait quelque chose et ça me semble assez facile. Voilà, tu fais une chose, c'est tout ce qu'il faut.

- Bah oui, mais quel truc alors ? On peut pas simplement faire n'importe quoi, ça ne marche pas.

- Pourquoi ?

- Parce qu'ensuite ils vont tous demander qui l'a fait, on n'échappe si facilement à ces erreurs.

- Mais quelle erreur, pourquoi tu penses que ça va être une erreur ? C'est bon, rien n'est raté, on a rien fait.

- Alors, tu vois.

- Quoi ?

- On a rien fait, mais on risque bien de mettre le bordel.

- Ça marche toujours comme ça.

- J'y arrive pas.

- On fait quoi alors ?

- Aucune idée, n'importe quoi c'est mieux que rien.

- Mais alors..

- Casse-toi, il faut que je réfléchisse.

- À quoi ?

- Ça ne te regarde pas.

math explained

Sun, 02 Dec 2012 22:28:32 +0000

December 2nd, 2012

I've always found it really painful to read math. Yet I've never really been able to pinpoint why. It feels like using a really horrible piece of software where it's ridiculously hard to figure out what is what and how to do what you want.

Then it hit me. Math notation is a dead ringer for the International Obfuscated C Code Contest. I've always had this unarticulated sensation that when I read math, be it a textbook, a proof, anything with formal notation, I constantly have to decrypt the horrible code into its meaning and store that in memory. Eventually the number of symbols and operators grows to a point where I encounter an out of memory error.

If you've ever looked at what javascript looks like when it comes out of a minifier, you've noticed that descriptive function names and variable names have all been turned into identifiers like "a", "b" etc. Sure, on the web the size of the payload matters. But are mathematicians too embroiled in some misguided quest for Huffman coding?

People criticize c++ because you can overload the operators to mean anything you want. But math is such a cognitive overload of operators that it's worse than any c++. And people who need math to explain something formally routinely redefine operators to mean whatever they want.

You know what else math doesn't have? Scope. It's fabulous reading a paper with that tingling of anxiety because you never know when a symbol defined 10 pages back is about to make a comeback.

So in the end it's all operators and single identifier names in a global namespace, in a word: delightful. Holy cow, I *wish* we had awful Hungarian notation practices, it would improve the code by levels of magnitude. In fact, so many of the tips in the seminal How to Write Unmaintainable Code would be a godsend for math writing.

la crainte de la réussite

Sun, 25 Nov 2012 10:13:28 +0000

November 25th, 2012

Est-ce que ça existe vraiment, la crainte de la réussite ? J'ai toujours compris ça dans le sens que si je réussi cette fois je pourrais rater la suivante. Donc il s'agit d'une crainte d'échouer, pas de réussir.

Par contre, si je crains de tomber malade très tôt, ce doit être la crainte de la maladie. Et si je crains de rester en bonne santé pendant une année et de tomber malade ensuite ce doit toujours être la crainte de la maladie, pas la crainte de la santé.

fernsehen auf deutsch

Sun, 23 Sep 2012 13:25:02 +0000

September 23rd, 2012

Als ich ein Kind war, mochte ich es, viel fernzusehen. Besonders, nachdem ich am Nachmittag aus der Schule kam. Aber damals gab es nicht so viele Norwegische Kanäle im Norwegischen Kabelfernsehen und wenige Sendungen, die für mich interessant waren. Also fing ich an, anderswo zu suchen, um etwas spannendes zu finden.

So bin ich zu den Deutschen Kanälen gekommen, dort gab es immer Amerikanische Sendungen, oft Polizeiserien, und immer auf Deutsch synchronisiert. Obwohl ich kein Deutsch verstand, hatte ich damit viel Spaß.

Es war eigentlich sehr komisch, weil die Schauspieler, die ihre Stimmen auf Deutsch aufgenommen hatten, sprachen immerzu Deutsch, außer wenn sie ihren Namen sagen mussten, denn damals sprachen sie mit präzisem englischen Akzent. Zum Beispiel: Wo ist er, Michael? Keine Ahnung, Sam.

Ja, das war also meine Hauptaktivität am Nachmittag. Trotzdem habe ich kein Deutsch damit gelernt.