Sie beruht auf der Asymmetrie und der Einwegfunktion (der Falltürfunktion).
Einwegfunktion am Beispiel von RSA:
Da es sehr schwer ist eine sehr große Zahl, ursprünglich aus 2 sehr großen Primzahlen gebildet, in seine Primfaktoren zu zerlegen, ist die Funktion "Multipliziere zwei sehr große Primzahlen" eine Einwegfunktion.
Asymmetrie am allgemeinem Beispiel:
Ich lege meinen Klartext in eine Kiste und mache ein Schloss (public key) drum, welches jeder sehen kann. Den Schlüssel (private key) dafür habe nur ich. Nun schicke ich die Kiste zum Empfänger, dieser tut sein Schloss (public key) um die Kiste drum, welches jeder sehen kann. Den Schlüssel (private key) dafür hat nur er. Dann schickt er mir die Kiste zurück und ich entferne mit meinem Schlüssel (private key) mein Schloss (public key). Dann schicke ich die Kiste zurück an den Empfänger. Der Kann dann mit seinem Schlüssel (private key) sein Schloss (public key) entfernen und die Nachricht lesen ohne das je ein Schlüssel übermittelt werden musste, was sehr unsicher ist.
Verschlüsselungsverfahren, die zwei verschiedene Schlüssel verwenden, einer zum Verschlüsseln und einer zum Entschlüsseln, sind asymmetrische Verschlüsselungsverfahren. Bei asymmetrischen Verfahren ist kein Schlüsselaustausch notwendig.
Halten wir fest:
Wählt Bob zwei (große!!) Primzahlen
und 
und hält diese geheim, so kann er gefahrlos das Produkt 
veröffentlichen. Niemand außer ihm wird an die Primfaktoren und herankommen.RSA ist knackbar, dauert jedoch nur sehr lange.
Deswegen benutzen zum Beispiel schnelle Dienste wie mobile Datenübertragung nur einfache Schlüssel.
Sehr schwere Schlüssel werden, jedoch erst mit Rechnern die erst in einigen Jahren verfügbar sind, knackbar sein.
Quelle: http://www.matheprisma.uni-wuppertal.de/Module/RSA/, Seite 4/12