FUZZY! Workshop zur Datenreinigung
Workshop am 9.4. - 11.4.2008
Innerhalb eines Unternehmens werden Kundendaten häufig in unterschiedlichen Systemen gehalten. Die Gründe dafür können in der Struktur des Unternehmens (getrennte Sparten), in unterschiedlichen Vertriebskanälen oder in einer Unternehmensfusion liegen. Um eine einheitliche Sicht auf den Kunden zu bekommen, müssen die Daten aus diesen Systemen zusammengeführt werden. Ein wichtiges Ziel ist dabei die automatische Erkennung von Dubletten, d.h. die Tatsache, dass ein Kunde in mehreren Systemen vorkommt, also in mehreren Beziehungen zum Unternehmen steht.
Sie sollen erkennen, welche Arten von Problemen beim Zusammenführen von Datenbeständen auftreten, welche Probleme sich mit einfachen Mitteln (SQL, Scripte, Text-Editor, etc.) lösen lassen und welche nicht. In praktischer Teamarbeit implementieren Sie Algorithmen zur Dublettenerkennung für große Datenmengen (1 Mio. Kundendatensätze). Das Team mit den meisten richtig gefundenen Dubletten gewinnt! Die in den beiden ersten Tagen gewonnenen Erkenntnisse und Lösungen sollen am Abschlusstag präsentiert werden.
Die Partner bei FUZZY! haben einige große Personendatenbanken generiert und präpariert, um Ihnen die Reinigung besonders schwer zu machen! Im Laufe des Workshops
- führen Sie eine automatisierte Standardisierung von Kundendaten mit selbst-entwickelten Methoden durch,
- entwickeln Sie Ähnlichkeitsmaße um doppelte Kunden (Duplikate) zu finden,
- entwickeln Sie effiziente Methoden um nicht alle Paare von Kundendaten vergleichen zu müssen,
- arbeiten Sie im Team um gemeinsame Lösungen zu finden (2er Teams),
- vergleichen Ihre Methoden mit denen anderer und stellen fest, ob Sie alle Duplikate korrekt erkennen - die beste Lösung wird prämiert,
- erhalten Sie eine Teilnahmeurkunde.
Der Workshop richtet sich also an Studenten und Doktoranden, die
- Interesse and der Lösung realer Informatik-Probleme haben,
- Lust auf eine Herausforderung haben (einige der Duplikate finden selbst professionelle Tools nicht),
- schon ein wenig programmieren können (Java, Perl oder ähnliches)
- schon ein wenig in die Welt der Datenbanken hineingeschaut haben (DBS I oder auch Berufserfahrung mit Datenbanken genügen)
Zeit und Ort
Der Workshop findet in den Tagen vor der Vorlesungszeit des Sommersemesters statt:
- Mittwoch 9. April ganztägig
- Donnerstag 10. April ganztägig
- Freitag 11. April vormittags
Ein genaueres Programm folgt.
Vormittags verbringen wir ca. 2 Stunden in einem Seminarraum. Für die restliche Zeit haben wir einen Poolraum reserviert.
Anmeldung
Es können sich Bachelor-, Master- und Promotionsstudenten anmelden. Sie sollten mindestens im 3. Semester sein. Wir werden voraussichtlich Zweierteam bilden.
Anmeldung bitte per formloser E-Mail an: office-naumann@hpi.uni-potsdam.de
Es werden maximal 20 Teilnehmer zugelassen; wir führen eine Warteliste.
Programm
| Mittwoch, 9. April - Standardisierung | ||||
| Zeit | Thema | Sprecher | Raum | Folien |
| 9:00 - 10.15 | Einführung in die Aufgabenstellung: Einheitliche Struktur und Darstellung der Daten | Schmid, Naumann | A-1.1 | |
| 10:15 - 10:30 | Pause | |||
| 10:30 - 12:30 | Betreute Gruppenarbeit | A-1.14 | ||
| 12:30 - 13:30 | Gemeinsames Mittagessen | Mensa | ||
| 13:30 - 15:00 | Betreute Gruppenarbeit | A-1.14 | ||
| 15:00 - 15:30 | Kaffee und Kuchen | |||
| 15:00 - 17:30 | Betreute Gruppenarbeit | A-1.14 | ||
| Donnerstag 10. April - Dublettenerkennung | ||||
| Zeit | Thema | Sprecher | Raum | Folien |
| 9:00 - 10:15 | Duplikate und Duplikaterkennung | Felix Naumann | A-1.1 | |
| 10:15 - 10:30 | Pause | |||
| 10:30 - 12:30 | Betreute Gruppenarbeit | A-1.14 | ||
| 12:30 - 13:30 | Gemeinsames Mittagessen | Mensa | ||
| 13:30 - 15:00 | Betreute Gruppenarbeit | A-1.14 | ||
| 15:00 - 15:30 | Kaffee und Kuchen | |||
| 15:30 - 17:30 | Betreute Gruppenarbeit und Vorbereitung der Präsentationen | A-1.14 | ||
| 19:00 | Abgabefrist der Lösungen | |||
| Freitag, 11. April - Auswertung | ||||
| 10:00 - 11:00 | Zusammenführung von Datenbeständen bei FUZZY! | Joachim Schmid | A-1.1 | |
| 11:00 - 12:30 | Präsentationen der Teams | A-1.1 | ||
| 12:30 - 13:30 | Gemeinsames Mittagessen | Mensa | ||
| 13:30 - 15:00 | Präsentationen der Teams und Auswertung | A-1.1 | ||