Die Transformation ist SQL, und Sie können sie lesen, bevor sie läuft.

Das ist der Teil, den Wettbewerber hinter einem visuellen Mapping-Werkzeug halten. Wir glauben, dass Integrationsschulden vor allem deshalb unbeherrschbar werden, weil niemand sehen kann, was die Transformation tatsächlich tut. Unsere ist deshalb Text, versioniert und für jeden prüfbar, der SQL kann.

Pipeline-Builder

Arbeitsversion links vom Umschalter. Ausgerollt rechts.

Eine Pipeline besteht aus deklarierten Quellen, einer oder mehreren SQL-Stufen und genau einem Ziel. Was läuft und was Sie gerade bearbeiten, sind nie versehentlich dasselbe.

1Quellen werden deklariert, jede mit einem Schalter dafür, ob eine Änderung daran einen erneuten Lauf auslöst.
2Die Stufen laufen von oben nach unten. Jede ist SQL, das Sie lesen, bearbeiten und einzeln testen können.
3Die Trennung zwischen Arbeitsstand und ausgerollter Version sorgt dafür, dass eine Änderung geprüft wird, bevor sie live geht.
4Das Ziel deklariert seine Speicherklasse und seinen Schreibmodus, statt sie nur anzudeuten.
Beetls Pipeline-Builder mit deklarierten Quellen samt Auslöser-Schaltern, zwei SQL-Transformationsstufen mit bearbeitbarem Code, einem Umschalter zwischen Arbeits- und ausgerollter Version sowie der Konfiguration des Zieldatensatzes.
Pipeline-Builder. Arbeitsstand v6 neben ausgerollter v6.
Warum SQL statt einer Mapping-Oberfläche

Drei Gründe, und in allen dreien geht es um später.

Es lässt sich übergeben

Eine neue Entwicklerin kann eine SQL-Stufe am ersten Tag lesen. Einen proprietären Mapping-Graphen muss man erst lernen, bevor man ihn beurteilen kann, und dieses Wissen nützt sonst nirgends etwas.

Das ist der Unterschied zwischen einer Integration, die einer Person gehört, und einer, die einem Team gehört.

Es lässt sich vergleichen

Weil Stufen Text sind, ist eine Änderung ein Diff. Sie sehen genau, was sich zwischen der ausgerollten Version und der wartenden bewegt hat.

Einen visuellen Graphen zu versionieren ergibt ein Bild einer Änderung. SQL zu versionieren ergibt ein Review.

Es überlebt uns

Endet unsere Zusammenarbeit, behalten Sie Definitionen, die beschreiben, was Ihre Daten bedeuten, in einer Sprache, die Ihr Team ohnehin liest.

Bindung durch Undurchschaubarkeit ist ein Geschäftsmodell. Uns ist lieber, Sie bleiben, weil die Plattform ihr Geld wert ist.

Was die Plattform rund um das SQL hält

  • Deklarierte Eingaben und eine einzige Ausgabetabelle je Pipeline, damit der Abhängigkeitsgraph real ist und nicht nur unterstellt.
  • Ereignisgesteuerte Ausführung. Eine Pipeline läuft, wenn sich eine von ihr deklarierte Quelle tatsächlich ändert, und nicht auf gut Glück per Cronjob.
  • Pipeline-Variablen und Lauf-Kontext, damit dieselbe Definition mehr als einen Kunden oder Zeitraum bedient, ohne kopiert zu werden.
  • Validierung und Datenqualitätsprüfungen gegen die vorbereitete Ausgabe, bevor irgendetwas Nachgelagertes sie zu sehen bekommt.
  • Herkunft bis auf Zellebene, damit sich eine infrage gestellte Zahl zurück auf die Datensätze und die Pipeline-Version auflösen lässt, die sie erzeugt haben.

Wo KI hineinpasst und wo nicht

Der Agent kann eine SQL-Pipeline aus einer Beschreibung entwerfen, und für die ersten achtzig Prozent einer Transformation ist das wirklich nützlich. Was dabei herauskommt, ist eine Definition, die Sie lesen und freigeben, und keine Blackbox, die einfach zu laufen beginnt.

Nichts läuft nach Zeitplan und nichts schreibt in ein Ziel, bevor ein Mensch es freigegeben hat. Diese Grenze ist eine Produktentscheidung und keine Einschränkung, die wir demnächst aufheben wollen.

Bringen Sie uns eine Transformation, die niemand erklären kann.

Die, die von einer Tabelle und dem Gedächtnis eines Kollegen zusammengehalten werden, sind genau die, wofür das hier gebaut ist.