
❌ Datenbankreorganisation ❌ Reorg von Datenbanken um Datenbankleistung zu verbessern und Speicherplatz zu sparen ❗
Daten in großen RDBMS-Tabellen werden mit der Zeit fragmentiert. Die Größe von Tabellen und Indizes nimmt zu, da Datensätze auf mehr Datenseiten verteilt werden. Mehr Seitenzugriffe und Zeilen in nicht sortierter Reihenfolge während der Abfrageausführung verlangsamen die Abfrageantworten. Um den verschwendeten Platz zurückzugewinnen, die Verfügbarkeit der Datenbank zu verbessern und den Zugriff auf Daten zu beschleunigen (Abfrageantworten), sollten Sie eine Strategie für die Reorganisation Ihrer Datenbankobjekte in Betracht ziehen.
Datenbank-Reorganisationen bestehen aus zwei Typen für diese Tabellen-, Index- und Tablespace-Objekte: Online (in-place) und Offline (klassisch).
Online-Datenbank-Reorganisationen: Sie arbeiten inkrementell, indem sie Zeilen innerhalb der vorhandenen Tabelle verschieben, um die Clusterbildung wiederherzustellen, freien Speicherplatz zurückzugewinnen und Überlaufzeilen zu eliminieren. Objekte sind nur für kurze Zeit am Ende nicht verfügbar, nicht jedoch während der Lade- und Wiederaufbauphasen, die bei großen Objekten langwierig sein können. Sie ermöglichen es Anwendungen, sich mit der Datenbank zu verbinden, verlangsamen jedoch oft deren Leistung und können zu Wartezeiten für Sperren führen.
Offline-Datenbank-Reorganisationen: Sie sind schneller, können jedoch die Datenbank offline nehmen (wenn das Datenbank-Reorganisationsdienstprogramm verwendet wird). Bei dieser Methode werden Daten aus der Datenbank in eine Dump-Datei exportiert (Unload). Die Datenbankobjekte werden auf Grundlage des Extrakts wieder aufgebaut, typischerweise neu geordnet (Sortierung). Sie werden dann in denselben Tablespace zurückgeführt (Load), wobei Indizes implizit wiederhergestellt werden (Rebuild).
Leistungsorientierte Datenbankadministratoren verwenden IRI FACT (Fast Extract) für das Unload, das eine portable Flat-File erstellt, die auf dem Primärschlüssel des reorganisierten Tables sortiert werden kann (mit IRI CoSort). Mit diesem Ansatz können auch andere Transformations- und Berichtsoperationen durchgeführt werden, und die Datenbank bleibt online. Vorsortierte, direkte Pfad-Ladungen umgehen auch das Sortieren (Overhead) des Datenbank-Laders. All diese Operationen sind im IRI Workbench Offline-Reorg-Assistenten automatisiert.
Es sollte nicht besonders belastend sein, eine "Schatten"-Kopie der Daten für jede Tabelle im Dateisystem zu halten, denn sobald die Flat-File sortiert und neu geladen ist, kann sie gelöscht werden. Gleichzeitig ermöglicht es die Externalisierung der Reorg-Daten und die Verfügbarkeit für CoSort auch die Möglichkeit für andere Verwendungen der Daten, einschließlich Archivierung, Berichterstellung, Schutz und Migration zu anderen Datenbank-, BI-Tool- und Anwendungszielen.
Die Einschränkung besteht natürlich darin, dass während des Unloads andere Systembenutzer die Tabelle lesen und möglicherweise aktualisieren können, sodass Aktualisierungen während dieser Zeit die Neuverladung verpassen und Inkonsistenzen im Ziel verursachen könnten. Es wird daher empfohlen, Offline-Reorganisationen durchzuführen, wenn keine Aktualisierungen stattfinden.
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com

❌ Sensible Cloud-Daten schützen ❌ Automatische Datenmaskierung in NoSQL wie Google Bigtable, Azure Cosmos DB und Amazon DynamoDB ❗
Frühere Artikel in diesem Blog beschäftigten sich bereits damit, wie DarkShield-Assistenten in der IRI Workbench Daten in anderen populären NoSQL-Datenbanken, darunter Cassandra, Elasticsearch und MongoDB, finden und maskieren können. Ein weiterer Artikel widmet sich den Datenbanken CouchDB, Redis und Solr.
Obwohl es eine umfassende Liste von Sicherheitspraktiken für Endpunkte in NoSQL-Datenbanken gibt, können Angreifer dennoch Schwachstellen in diesen Verteidigungsmaßnahmen ausnutzen. Daher ist es für Unternehmen entscheidend, das Sicherheitsprofil dieser Datenbanken um eine zusätzliche Schutzebene zu erweitern.
Hier kommt IRI DarkShield ins Spiel. Als datenzentrierte oder "Startpunkt-Sicherheitslösung" bietet DarkShield Masking eine weitere wichtige Ebene des Datenschutzes zusätzlich zu den von Cloud-Datenbankdienstleistern implementierten Endpunktmaßnahmen.
Über IRI DarkShield: IRI DarkShield ist ein Datenmaskierungstool, das dazu dient, sensible Daten in semistrukturierten und unstrukturierten Dateien und Datenbanken zu identifizieren und zu de-identifizieren. DarkShield ist eines der drei zentralen Produkte der IRI Data Protector Suite, die grafische Modelle für Datenklassifizierung, Suche und Maskierung in der IRI Workbench IDE auf Eclipse-Basis verwendet.
Ab Version 4 bietet DarkShield außerdem zwei leistungsfähige Remote Procedure Call (RPC) Application Programming Interface (API)-Versionen an: die "Base" DarkShield API und die DarkShield-Files API. Diese APIs ermöglichen die Erweiterung der DarkShield-Funktionalität außerhalb der Workbench und nutzen ein Plugin namens Plankton auf der IRI-Web-Services-Plattform.
Die DarkShield-Basis-API wird verwendet, um unstrukturierten Text außerhalb des Dateikontextes zu suchen und zu maskieren. Alternativ dazu ermöglicht die DarkShield-Files-API die Suche und Maskierung von PII in Dateien.
Mithilfe der DarkShield-Files-API können halbstrukturierte und unstrukturierte Daten in verschiedenen Formaten, darunter einfache Textdateien, csv/tsv, Word-Dokumente, Excel, pdf, json, xml, parquet sowie jpeg- und png-Bilder durchsucht und maskiert werden.
AWS DynamoDB, Azure CosmosDB, Google BigTable und die DarkShield-API: Dieser Artikel konzentriert sich auf die führenden Anbieter von Cloud-Diensten für NoSQL-Datenbanken: Amazon AWS mit DynamoDB, Microsoft Azure mit CosmosDB und Google Cloud mit Bigtable. Der Schwerpunkt liegt darauf, wie die DarkShield-Files-API genutzt werden kann, um in ihren Cloud-NoSQL-Datenbanken nach PII zu suchen und diese zu maskieren.
Für diejenigen, die nicht mit der programmatischen Verbindung und Abfrage von NoSQL-Datenbanken vertraut sind, bietet AWS, Azure und Google Cloud umfassende Dokumentationen und Software Development Toolkits (SDKs) in verschiedenen Programmiersprachen an.
Die DarkShield-Files-API-Demos, die derzeit auf GitHub verfügbar sind, sind in Python geschrieben. Daher verwenden diese Projekte Client-Bibliotheken für Python, aber es können auch andere aufrufende Sprachen wie Java verwendet werden. Die aufrufenden Programme oder "Glue Code" für die API sind der Ort, an dem diese Prozeduren definiert werden können. Hier sind die Links zu den DarkShield-Files-API-Demos für Azure CosmosDB, AWS DynamoDB und Google Cloud Bigtable.
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com

❌ Datenbankreplikation ❌ In Echtzeit Änderungen (CDC) von Datenbank automatisch erkennen und verwalten ❗
Im vergangenen Jahr wurde ein vielseitiges Modul eingeführt, das das Generieren, Profilieren, Migrieren zu und Prototypisieren von Data Vault 2.0-Modellen ermöglichte. Dieses Jahr wurde die wegweisende Funktion "IRI Ripcurrent" in Voracity eingeführt, um in Echtzeit Änderungen in der Struktur und dem Inhalt von Datenbankspalten zu verwalten.
IRI Ripcurrent erkennt automatisch neue, aktualisierte oder gelöschte Zeilen sowie Änderungen an der Struktur einer Tabelle oder eines Schemas. Es reagiert darauf auf verschiedene Arten, darunter:
- Datenreplikation: Aktualisierung von Testzielen innerhalb derselben oder einer anderen Datenbank.
- Inkrementelle Datenmaskierung: Verwendung konsistenter Funktionen basierend auf Datenklassen.
- Delta-Reporting: Vergleich und Analyse neuer Daten mit früheren Versionen.
- Benachrichtigungen: Meldung struktureller Änderungen des Schemas, um neue Suchaufträge auszulösen, usw.
Ripcurrent kann nahtlos mit Debezium integriert werden, um Änderungen von verschiedenen Datenbanken zu verfolgen. Es unterstützt Debezium-Konnektoren für MySQL, SQL Server, PostgreSQL und Oracle, und mit geringfügigen Anpassungen werden auch MongoDB, DB2 und Vitess unterstützt.
Weitere Informationen über Ripcurrent und die Funktionsweise dieser automatischen Prozesse finden Sie in einer Reihe von Blogartikeln, die mit diesem Artikel beginnen.
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com

❌ Datenschutz in Elasticsearch ❌ Sensible Daten im NoSQL-Format wie CSV und JSON automatisch finden und schützen ❗
Die preisgekrönte datenzentrische Sicherheitssoftware von IRI hat sich in verschiedenen Umgebungen bewährt und bietet Lösungen zur Verhinderung von Verstößen, Einhaltung des Datenschutzes und DevOps (Testdaten). Nutzen Sie die spezialisierten Datenschutzprodukte von IRI oder die umfassende IRI Voracity-Plattform, um sensible Daten in beliebiger Form und an jedem Ort zu identifizieren und zu maskieren. Damit können Sie nachweisen, dass Sie die Daten konform geschützt haben.
IRI FieldShield ermöglicht das Finden, Klassifizieren und Maskieren von risikobehafteter PII in Legacy-Dateien, relationalen und NoSQL-Datenbanken sowie Cloud-Anwendungen. Dabei kommen Methoden wie AES-256 FPE, Hashing, Redaktion, Pseudonymisierung und Tokenisierung zum Einsatz.
IRI DarkShield dagegen klassifiziert, lokalisiert und de-identifiziert oder löscht PII und andere sensible Informationen in semi/unstrukturierten Texten, PDFs, Office-Dateien und Elasticsearch-Sammlungen. Es generiert zudem Such- und Prüfergebnisse.
Mit IRI CellShield können PII in einer oder mehreren Excel®-Tabellen gefunden, berichtet, maskiert und überprüft werden.
Die End-to-End Datenmanagement-Plattform IRI Voracity integriert alle diese Lösungen. Sie bietet Datenmaskierung und Testdatenmanagement innerhalb einer umfassenden Plattform für den gesamten Datenlebenszyklus. Neben FieldShield enthält Voracity IRI RowGen, mit dem intelligente Testdaten für DB/ETL-Prototyping, PII-Fertigung und Anwendungs-Stresstests erstellt werden können.
Weitere Details zum Elasticsearch-Setup und zur PII-Suche und Maskierung finden Sie im Blog-Artikel. Wenn Sie keinen Elasticsearch-Cluster haben, können Sie einfach einen lokalen Cluster erstellen, indem Sie Elasticsearch hier herunterladen und der Anleitung folgen.
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com

❌ Tuning von Datadog ❌ Schnellere Datenintegration und Datentransformation mit DSGVO-konformen Daten ❗
Dieser Beitrag markiert den Beginn einer 4-teiligen Serie über die Integration der Datadog Cloud-Analyseplattform mit verschiedenen Arten von Daten aus IRI Voracity-Operationen. Insbesondere wenn es darum geht, eine beträchtliche Datenmenge offline vorzubereiten, bevor sie ausgegeben wird und diese Daten auf einer Infrastruktur außerhalb von Datadog verarbeitet werden kann, bietet Voracity eine leistungsstarke Big Data-Wrangling-Lösung:
- Der Schwerpunkt dieses Artikels liegt auf der Datenvorbereitung in Voracity und der Konfiguration von Datadog, um diese Daten zu empfangen.
- Dieser Artikel legt den Fokus auf die Visualisierung von in Voracity verarbeiteten Daten in Datadog.
- Der Inhalt dieses Artikels konzentriert sich auf die Visualisierung von Suchprotokollen zur Verschleierung unstrukturierter Daten in Datadog für Sicherheitsanalysen.
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com

❌ Sensible Informationen in Excel schützen ❌ DSGVO-konformer Datenschutz von sensiblen Daten in XLS- und XLSX-Dateien ❗
Die Produkte gewährleisten Determinismus und Datenintegrität, indem sie identische Chiffretexte erzeugen. Sie sind auch integrale Komponenten der IRI Voracity Datenmanagement-Plattform:
- IRI CellShield wurde speziell für die Suche und Maskierung von Daten in Tabellenkalkulationen entwickelt und ist das einzige "Shield"-Produkt von IRI, das ausschließlich in der Excel-Umgebung eingesetzt werden kann.
- IRI FieldShield klassifiziert, sucht und maskiert strukturierte Datenbank- und Flat-File-Daten. Es verwendet das CoSort SortCL-Programm für die Datendefinition und -manipulation.
- IRI DarkShield ist auf das Auffinden und Maskieren von Daten in halbstrukturierten und unstrukturierten Texten, EDI-Dateien, RDB C/BLOB-Spalten, NoSQL-DB-Sammlungen, Bildern und PDF-/MS-Office-Dokumenten spezialisiert.
Alle Tools können persönlich identifizierbare/geschützte Gesundheitsinformationen (PII/PHI) und andere sensible Daten in Microsoft Excel-Tabellen finden und maskieren. Die Auswahl des richtigen Tools hängt von der Excel-Bedienung und der Job-Konfiguration ab, wobei jedes Tool spezifische Stärken in unterschiedlichen Situationen aufweist.
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com

❌ Tuning von Talend ❌ Talend Data Fabric beschleunigen und DSGVO-konforme Datenverarbeitung sicherstellen❗
Transformationsoptimierung: Beschleunigung von Sortierung, Aggregation und Zusammenführung in Talend durch tSystem-Aufrufe an CoSort SortCL. Dies ermöglicht mehrfache, zeitsparende Datentransformationen ohne Platzmangel und Beeinträchtigung anderer Jobs. Benchmarks und Tipps zur Leistungssteigerung sind verfügbar.
PII-Datenschutz: Talend kann sensible Daten in Tabellen und Flat-Files nicht ausreichend sichern. IRI Voracity und IRI FieldShield bieten umfassenden Schutz in verschiedenen Datenquellen, basierend auf Geschäftsregeln. RowGen erstellt sichere Testdaten, und die automatische Konvertierung von Talend-Mappings zu kosteneffizienteren ETL-Operationen in IRI Voracity spart erhebliche Kosten.
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com

❌ Tuning von KNIME ❌ Nahtlose Beschleunigung von Datenaufbereitung und Data Analytics mit DSGVO-konformen Daten ❗
Ähnlich wie andere Analysetools integriert KNIME ETL-Knoten zur nahtlosen Integration und Aufbereitung von Daten. Dennoch wird auch KNIME, bedingt durch Herausforderungen wie großem Datenvolumen, Vielfalt, Geschwindigkeit und Datenintegrität, vor diverse Anforderungen gestellt – es sei denn, es wird durch IRI Voracity angetrieben!
Gegenwärtig ist es möglich, die Datenaufbereitung und -analyse mühelos zu beschleunigen und zu kombinieren – und das in derselben grafischen IDE für Voracity, die ebenfalls auf Eclipse basiert und den Namen IRI Workbench trägt. Insbesondere fungiert der "Voracity Provider für KNIME" als Datenquellenknoten für KNIME, der die zügige Aufbereitung großer Datenmengen in Voracity ermöglicht und die Ergebnisse direkt in einen oder mehrere Pipeline-Knoten überführt. So können die Daten in KNIME analysiert werden, nachdem Voracity sie integriert, transformiert, bereinigt, maskiert und neu formatiert hat – und das alles in einem einzigen I/O-Pass und innerhalb derselben Pipeline!
KNIME stellt eine breite Palette erweiterter Analyse-, Datenwissenschafts- und Datenvisualisierungsfunktionen für IRI Voracity-Benutzer bereit. Diese Funktionen ermöglichen eine rasche Datenintegration und -steuerung in Verbindung mit Machine Learning, Deep Learning (künstliche Intelligenz) und anderen Anwendungsfällen, bei denen Informationen aus Rohdatenspeichern gewonnen werden müssen. Diese simultane Vorbereitung und Präsentation entspricht genau der von Dr. Barry Devlin beschriebenen produktionsanalytischen Plattform, wie sie in Voracity vorliegt.
Ob man nun ein "Citizen Data Scientist" ist, der sein Gewicht in der Datenanalyse behaupten möchte, oder ein CIO, der ein schnelleres und umfassenderes Werkzeug sucht, um einen Datensee nach Wert zu verwalten – der Voracity Provider für KNIME stellt eine ideale Antwort dar. Er bietet eine deutlich bessere Alternative zu separaten, langsameren und weniger funktionalen freien ETL-Knoten für KNIME sowie zu den weniger integrierten und kostspieligeren älteren ETL- und Datenwrangling-Tools.
Der Voracity-Provider für KNIME steht IRI Voracity-Anwendern kostenlos zur Verfügung und birgt mehrere Vorteile, darunter:
- Eine neunfache Geschwindigkeitsverbesserung im Vergleich zu nativen KNIME-Datenintegrationsknoten, was zu erheblich schnelleren Analysen und Visualisierungen führt.
- Die kosteneffizienteste und funktionsreichste Plattformkombination für Big Data Wrangling (Voracity) und Analytics (KNIME), sowohl lokal als auch in der Cloud verfügbar.
- Vollständiger Zugriff auf alle Funktionen beider Plattformen in einer nahtlosen Umgebung mit vollständig anpassbaren Perspektiven.
- Sofortige, verlässliche und PII-maskierte Informationsresultate aus verschiedenen Datenquellen.
- Weltweite Unterstützung durch Experten beider Technologien.
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com

❌ Snowflake Data Cloud ❌ Umfassende Datenintegration mit Datenbereinigung und verbesserter Datenschutz ❗
Für die Pflege der Datenqualität empfehlen wir die Nutzung von IRI CoSort zur Vorsortierung von Flat-Files, um den Overhead bei Bulk-Ladungen und Inserts zu minimieren. Dadurch verbessert sich die Leistung von Clustering und häufig ausgeführten Abfragen erheblich.
Um Verarbeitungskosten zu reduzieren, bietet IRI CoSort die Möglichkeit, SQL-Transformationen aus der Datenbank auszulagern. Durch die Nutzung von Dateisystem-I/O, Multithreading und der bewährten Datentransformationskraft des CoSort SortCL-Programms werden ineffiziente SQL-Prozeduren vermieden.
Für Migration und Replikation empfehlen wir IRI NextForm, um Daten effizient zu erfassen, neu zuzuordnen und zu konvertieren. Diese Lösung ermöglicht auch die Erstellung benutzerdefinierter Berichte sowie die Befüllung neuer Tabellen während der Migration von und nach Snowflake.
Die Sicherheit Ihrer sensiblen Daten in Snowflake kann durch die Anwendung von IRI FieldShield gewährleistet werden. FieldShield bietet Funktionen wie Maskierung, Verschlüsselung und andere de-identifizierende Methoden für persönlich identifizierbare Informationen (PII) und geschützte Gesundheitsinformationen (PHI). Diese Maßnahmen helfen, Datenschutzgesetze wie HIPAA, PCI DSS, FERPA und GDPR einzuhalten.
Für die schnelle und sichere Bestückung von Snowflake-Operationen mit Testdaten empfehlen wir die Verwendung von IRI RowGen. Diese Lösung generiert automatisch sichere Testdaten unter Berücksichtigung Ihrer Datenmodelle und gewährleistet dabei referenzielle Integrität in der gesamten Datenbank.
Alle genannten Funktionen können einzeln oder integriert in der IRI Voracity-Plattform genutzt werden, um eine umfassende Datenverwaltung in Snowflake zu gewährleisten.
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com

❌ Personenbezogene Daten in Bildern ❌ Sensible Daten in Bild- und Foto-Formaten automatisch DSGVO-konform schützen❗
In einem Artikel werden drei Vorverarbeitungsmethoden erläutert: Bildskalierung, Binarisierung und Entzerrung. Diese Methoden werden verwendet, um die Bilder für die OCR-Verarbeitung optimal vorzubereiten.
Die beigefügte GitHub-Demo zeigt, wie diese Vorverarbeitungsmethoden mit der DarkShield-API für Bild- und Dateiverarbeitung integriert werden können. Das Demoprogramm ermöglicht die Vorverarbeitung einzelner Bilder oder ganzer Bildordner. Jedes Bild wird zunächst vorverarbeitet, dann an die DarkShield-Files-API gesendet, um nach sensiblen Daten zu suchen und diese zu maskieren. Schließlich wird das Bild nachbearbeitet, um das Original wiederherzustellen.
Die bearbeiteten Bilder werden in einem Verzeichnis namens "masked" gespeichert, das automatisch erstellt wird. Bei Anwendung der adaptiven Binarisierung als Vorverarbeitungsmethode ist zu beachten, dass die ursprüngliche Farbgebung des Bildes nicht vollständig wiederhergestellt werden kann.
Für weitere Informationen und detaillierte Anweisungen verweisen wir auf den umfassenden Blog-Artikel der alle Einzelheiten und Argumente für die Nutzung dieser OCR-Verbesserungsmethoden erklärt. Melden Sie sich gerne bei uns, wir helfen bei der Datenmakierung – egal wo sich die Daten befinden!
Weltweite Referenzen: Seit über 40 Jahren nutzen unsere Kunden wie die NASA, American Airlines, Walt Disney, Comcast, Universal Music, Reuters, das Kraftfahrtbundesamt, das Bundeskriminalamt, die Bundesagentur für Arbeit, Rolex, Commerzbank, Lufthansa, Mercedes Benz, Osram,.. aktiv unsere Software für Big Data Wrangling und Schutz! Sie finden viele unserer weltweiten Referenzen hier und eine Auswahl deutscher Referenzen hier.
Partnerschaft mit IRI: Seit 1993 besteht unsere Kooperation mit IRI (Innovative Routines International Inc.) aus Florida, USA. Damit haben wir unser Portfolio um die Produkte CoSort, Voracity, DarkShield, FieldShield, RowGen, NextForm, FACT und CellShield erweitert. Nur die JET-Software GmbH besitzt die deutschen Vertriebsrechte für diese Produkte. Weitere Details zu unserem Partner IRI Inc. hier.
Das Unternehmen JET-Software GmbH wurde 1986 in Deutschland gegründet. Seit fast 4 Jahrzehnten entwickeln wir Software für Big Data Management und Schutz! Unsere Produkte sind für alle gängigen Betriebssysteme: Mainframe (BS2000/OSD, z/OS + z/VSE) und Open Systems (UNIX & Derivate, Linux + Windows).
Wir bieten Lösungen für schnellstes Datenmanagement (Datenprofilierung, Bereinigung, Integration, Migration und Reporting sowie Beschleunigung der BI/DB/ETL-Plattform von Drittanbietern) und datenzentrierten Schutz (PII/PHI-Klassifizierung, -Erkennung und -Deidentifizierung, sowie Re-ID-Risikobewertung und Generierung synthetischer Testdaten).
Zu unseren langjährigen Referenzen zählen deutsche Bundes- und Landesbehörden, Sozial- und Privatversicherungen, Landes-, Privat- und Großbanken, nationale und internationale Dienstleister, der Mittelstand sowie Großunternehmen.
JET-Software GmbH
Edmund-Lang-Straße 16
64832 Babenhausen
Telefon: +49 (6073) 711-403
Telefax: +49 (6073) 711-405
https://www.jet-software.com
Telefon: +49 (6073) 711403
Fax: +49 (6073) 711405
E-Mail: amadeus.thomas@jet-software.com