Bonsoir,
Cette formule vient en fait de l'application du théorème de Pythagore dans le repère considéré. Pour visualiser cela sur un dessin, il suffit de construire une droite parallèle à l'axe des ordonnées passant par M. Tu appelles H le point d'intersection avec l'axe des abscisses. Ainsi, tu as construit un triangle OHM rectangle en H par construction ("si deux droites sont parallèles et si une troisième est perpendiculaire à l'une alors elle est perpendiculaire à l'autre"; c'est pour cela qu'il faut avoir un repère orthonormé).
Je te laisse regarder ce que donne l'application du théorème de Pythagore dans le triangle OHM.
Bon courage et n'hésite pas à poser tes questions!