Projekte

Eine der Hauptkomponenten in der Motorenmontage der DEUTZ AG bildet das Fahrerlose Transportsystem (FTS), welches den automatisierten Transport im Motoren- und Materialfluss gewährleistet. Das FTS ist somit das zentrale Transportsystem in der Montagehalle und verfügt über zahlreiche Schnittstellen zu den jeweiligen Montage-Systemen in der Prozessebene, u.a. für Warenein- und -ausgang, Material- und Motorpuffer, Übersetzer Fliessmontage und Übergabe Farbgebung (vgl. Abbildung-1 unten).

Das neue FTS in der Kölner Montagehalle wurde von DEUTZ in der Zeit vom 27.12.2009 bis 8.1.2010 gemeinsam mit dem Materialfluß-Systemspezialisten MLR System GmbH installiert und in Betrieb genommen. Das neue FTS basiert hierbei auf einer leitdrahtlosen Lasernavigation und unterstützt einen Fahrparcour von rund 6.800m. Insgesamt sind 1.600 Übergabestellen (Ziele) programmiert. Im Einsatz sind 43 frei navigierende Gabelhubwagen (FTS-Fahrzeuge, vgl. Abbildung unten) in drei Varianten für Längs- und Querladegut sowie für den Motorentransport. Das System leistet bis zu 8.000 Transporte täglich und ist an insgesamt 15 automatische Fördertechnik / Ladesysteme des Material- / Motorenflusses angebunden.

Innerhalb der IT-Systemstruktur der Montage gehört die IT-Steuerung des FTS zu den Leitsystemen der Fabrik (vgl. Abbildung-1 unten). Zur Kommunikation mit den FTS-Fahrzeugen wird ein IEEE 802.11a basiertes Wireless LAN genutzt (5 GHz, 54 Mbps, vgl. auch Infobox im dritten Teil (ganz unten). Nach der Inbetriebnahme des WLANs im Juli 2009 konnten an den Wochenenden die einzelnen Schnittstellen getestet und in Betrieb genommen werden. Hierzu musste jeweils der alte FTS-Leitrechner runtergefahren und die weiterhin benötigten FTS-Module an das neue System angedockt werden. Ebenso die externen Kommunikationspartner (MLR, SICALIS, ...). Ein solcher Vorgang dauerte jeweils 1h und endete mit einem Produktivtest des alten Systems.

Das Industrial-IT Team des Kölner Motorenherstellers DEUTZ AG betreut die IT-Systemstruktur der Motorenproduktion. Diese umfasst auf der Leitsystemebene, neben dem Montageleitrechner (MLR) den FTS-Leitrechner (v. MLR LogOS), die Prozessvisualisierung (SICALIS) sowie die Systeme zur Programmierung der Motor-Steuergeräte. Hinzu kommen zahlreiche Systeme u.a. für Warenein- und -ausgang, Montagen, Prüffeld etc. (vgl. Abbildung-1 unten). Mit den Leitsystemen versorgt das Industrial-IT Team insgesamt 15 Server, 250 PCs und über 100 Steuerungen und Prozess-rechner. Der gesamte Produktionsprozess ist nahtlos IT-gesteuert und genau aufeinander abgestimmt. Die Fabrik wurde 1992 in Betrieb genommen und gehört seitdem zu Europas modernsten Montageanlagen.

Martin Feller, Leiter des Industrial-IT Teams, war von Beginn an dabei und entschied sich bereits in den Neunzigern für einen sukzessiven Ausbau der Struk-turierten Verkabel-ung und den Einsatz der stan-dardisierten Ethernet-Technologie. "Es war für uns eine naheliegende Entscheidung, auch bei der jetzigen Ablösung des 18 Jahre alten FTS weiter in Richtung Ethernet und TCP/IP zu investieren", erläutert Feller.

Die Anbindung an den Montageleitrechner und die Kommunikation zwischen den einzelnen FTS-Komponenten erfolgt nach dem allgemein gebräuchlichen TCP/IP-Standard. Für die Anbindung an die Prozessebene wurde zusätzlich RFC1006 verwendet. Zur Konvertierung des TCP/IP mit RFC1006 zum proprietären SIEMENS Protokoll SINEC AP hat das Team um Martin Feller eine pragmatische Lösung angestrebt und gemeinsam mit SIEMENS entwickelt: ein dezidiertes SPS-Gateway (vgl. Infobox im zweiten Teil). "Das Gateway mit der RFC1006-Anbindung erlaubte uns die Anbindung der Prozessebene ohne Anpassung der Anwendungsoftware und damit unproblematische Tests in der Entwicklungsphase des Projektes" ergänzt Feller.

Eine wichtige Rahmenbedingung für den reibungslosen Produktionsablauf sowie für den Einsatz des neuen FTS ist eine zuverlässige Netzwerkinfrastruktur. Wir beschreiben nachfolgend zunächst das Netzdesign in der Montagehalle und skizzieren anschliessend den integrierten Carrier Class Redundanzmechanismus EAPS (im dritten Teil). Das modular strukturierte Switch-Betriebssystem ExtremeXOS® unterstützt dabei zusätzlich die Hochverfügbarkeit im Netzwerk (vierter Teil).

Netzwerk-Struktur

Die DEUTZ AG verfügt in der Kölner Montagehalle 40 über eine Strukturierte Verkabelung. Alle neun Unterverteiler sind sternförmig mittels Glasfaserkabel angebunden. Den Kern des Ethernet-Netzwerks bildet je ein Hauptverteiler in zwei Rechnerräumen (RR). Ausgehend von diesen Hauptverteilern sind neun Unterverteiler mittels Lichtwellenleiter (LWL) redundant per Gigabit Ethernet angeschlossen (vgl. Abbildung-2 und -4).

Grundlage des Netzes ist ein Layer3-Netzdesign, basierend auf dem IPv4-Netzprotokoll u. portbasierenden VLANs. Das Routing erfolgt dabei zentral auf den redundanten Coreswitches und ermöglicht somit eine einfache Konfiguration und Administration der Edge-Switches. Die komplexen Konfigurationsinhalte befinden sich im Core.

Zwischen den Coreswitches ist das OSPF Routing-Protokoll im Einsatz. Es wird nur auf den Transfer-VLANs zwischen den Coreswitches genutzt. Hierbei haben ausschließlich die Coreswitches eine direkte Verbindung in die Transfer-VLANs. So ergibt sich keine Möglichkeit der Beeinflussung der Coreswitch-Routing-Tabellen durch Clients oder Server.

Coreswitches

Der aktive Kern (Core) des Ethernet-Netzes besteht aus je einem Coreswitch-System pro Rechnerraum in redundanter Konfiguration. Dies verhindert einen "Single Point of Failure", welcher einen Totalausfall durch einen einfachen Komponentendefekt bewirken könnte.

Als zentrale Coreswitches fungieren leistungsstarke Layer3 Carrier Class Systeme von Extreme Networks (vgl. auch die Abbildungen Nr. 2,3 und 4). In beiden Rechnerräumen sind die Summit X450a-24x Switchsysteme im Einsatz, welche pro Switch 24x SFP-based 1000BaseX Ports (inkl. 4x 1000BaseT Combo Ports) bereitstellen. Die Systeme verfügen über eine Performance von 128 Gbps Switchfabric Bandbreite und 95,2 Mpps Frame Forwarding Rate in wirespeed (vgl. auch Abbildung-3 rechts). Die Geräte unterstützen dasselbe Carrier Class Featureset wie die modularen Black Diamond 8800er Switches.

Edgeswitches ermöglichen mit 10Gig hochperformantes "SummitStacking"

In den neun Unterverteilern der Montagehalle 40 steht die SummitX250er-Serie zur Verfügung (vgl. Abb.-6). Diese Switches sind ebenfalls Layer3-Systeme, verfügen auch über das ExtremeXOS®-Betriebssystem, und ermöglichen einen 10/100Mbit/s DualSpeed Ethernet Zugriff im Unterverteiler-Bereich (Edge).

16x SummitX250e als Edge-Switches

An den Core sind insgesamt neun Unterverteiler redundant mit je ein Gbps angeschlossen. Je nach benötigter Portanzahl im Unterverteiler sind die X250er-Switches in 1er-, 2er- oder 3er-Stacks gruppiert (vgl. Abb.-5 und -7).

SummitStacking

Die Gruppierung der Switches funktioniert per SummitStacking mit einer Perfor-mance von zehn Gbps (10Gig). Hierbei erfolgt die Verwaltung des Stacks über eine IP-Adresse. Es können bis zu acht Switches der Summit X250, X450er und X650er-Serie im Mix gestapelt werden (vgl. Abbildung-5).

Dabei ist die Funktionalität des Stapels auch bei einem eventuellen Ausfall eines Switches gegeben. Bemerkenswert ist die Local Switching-Funktion für Non-Master Units sowie die integrierte Hitless Failover-Funktion.

Die DEUTZ AG setzt im Core- und Edge-Bereich des Netzwerks auf die Systeme von Extreme Networks. Durch den einheitlichen Einsatz der Extreme Networks-Serie ergeben sich einige Vorteile. Insbesondere das einheitliche Bedienerinterface (CLI und WebGUI) vereinfacht die Administration der Geräte. Denn durchgängig von den Core-, über die Aggregations- / Distributions-Switches bis hin zu den Edge-Komponenten, verfügen die Systeme von Extreme Networks über ein einheitliches Betriebssystem: ExtremeXOS® (Seite 7).

Die Switches basieren zudem auf einer Carrier Class Hardware und bieten ein attraktives Feature-Set zur Realisierung eines stabilen Netzwerk-Betriebes. Insbesondere im Hinblick auf die Hochverfügbarkeit im Netz, u.a. das Extreme Standby Router Protocol (ESRP) und Ethernet Automatic Protection Switching (EAPS).

Die bisherige FTS-Kommunikation zum Montageleitrechner (MLR), zur Prozessvisualisierung (SICALIS) sowie zur Prozessebene (u.a. Warenein- und ausgang, Material- und Motorenpuffer) wurde mittels des proprietären SIEMENS-Protokolls SINEC AP realisiert (vgl. Abbildung).

Mit der Einführung des neuen FTS wurde die Anbindung zum Montageleitrechner auf das herstellerübergreifende Standardprotokoll TCP/IP umgestellt, welches auch zur Kommunikation zwischen den einzelnen FTS Komponenten genutzt wird. Die Anbindung an das Prozessvisualisierungssystem SICALIS und an die Prozessebene erfolgt über TCP/IP mit RFC 1006.

Ein von SIEMENS und DEUTZ entwickeltes SPS-Gateway ermöglicht die Konvertierung des proprietären Protokolls SINEC AP zu TCP/IP mit RFC1006 und umgekehrt. Das RFC 1006 ermöglicht bereits auf Treiberebene einen verbindlichen telegrammorientierten Datenaustausch auch bei unterschiedlicher Telegrammlänge.

Es mussten keinerlei Anpassungen auf der Prozessebene vorgenommen werden. Weiterhin ermöglicht dieses Verfahren eine zukünftige Migration von S5- auf S7-Steuerungen durch einfache Umparametrierung der Kommunikationsschnittstelle auf dem FTS-Leitrechner.

Ausfall-Strategie im Core: EAPS, VRRP

Zur Steuerung der redundanten Topologie werden in der Montagehalle verschiedene Mechanismen eingesetzt. Hierbei gibt es folgende Anforderungen:

Erstens: die zwingende Unterdrückung von Netzwerkschleifen zur Verhinderung von Broadcast Storms. Eine Schleife ermöglicht im Gigabit Ethernet das Kreisen von mehreren 1.000 Broadcast-Frames pro Sekunde und blockiert so die Netzwerkkommunikation. In bestimmten Fällen kann ein Broadcaststurm auch einen manuellen Reboot von Endgeräten wie z.B. Printserver erfordern.

Zweitens: die Bereitstellung eines redundanten Default-Gateways für die angeschlossenen Client-/Server-PCs. Die redundante Instanz wird auf einem zweiten Switch konfiguriert und ermöglicht so die Ausfallsicherheit bzw. die Erreich-barkeit des Gateways im Falle einer Störung des Primär- (Layer3-) Switches. Zwingend zu beachten ist jedoch, dass nur eine Instanz aktiv geschaltet ist. Zwei aktive Routing-Interfaces mit der gleichen IP-Adresse führen unweigerlich zu Netzstörungen.

Die Steuerung der redundanten Instanz sowie die Unterdrückung von Netzwerkschleifen wird durch ein geeignetes Protokoll geregelt. Im Netzdesign der DEUTZ AG übernimmt diese Aufgabe der Ethernet Automatic Protection Switching Mechanismus (EAPS).

EAPS mit Zeitvorteilen gegenüber STP

Mit Einsatz von EAPS wird zusätzlich das Virtual Router Redundancy Protocol (VRRP) für die Layer3-Redundanz-steuerung benötigt. VRRP stellt hierbei die Verfügbarkeit des Default-Gateways für die Clients sicher.

Redundanz-Umschaltung unter 100 Millisekunden

Die beiden X450er Core-Switches (je ein Coreswitch pro RR) bilden ein Redundanz-Paar. Das EAPS-Protokoll läuft in einem separaten VLAN. Eine Redundanz-Umschaltung im Störfall erfolgt unter 100ms.

Zur Bekanntgabe der aktiven Routerinterfaces in einer redundanten Konfiguration sind statische Routingeinträge nicht geeignet. Für eine dynamische Aktualisierung der Routingtabellen im Falle einer Änderung ist vielmehr ein dynamisches Routingprotokoll notwendig. Im Netzwerk der DEUTZ AG wird hierzu das Routingprotokoll Open Shortest Path First (OSPF) eingesetzt.

EAPS im Detail

EAPS wurde im Jahre 2000 von Extreme Networks für die Carrier-Netze entwickelt. EAPS ist Bestandteil der RFC 3619 (vgl. Abb.-8 oben) und insbesondere auch für Enterprise-Netze verfügbar. Die realisierbaren Umschaltzeiten von EAPS liegen deutlich unter einer Sekunde. Mit optimalen Rahmenbedingungen liegen die Umschaltzeiten bei 50 Millisekunden (50ms). EAPS gehört damit in die Klasse der "Voice-Grade" Mechanismen.

Die Redundanzsteuerung erfolgt hierbei über ein separates VLAN mit priorisierter Datenübertragung. Das Steuerungs-verfahren ist hierdurch vom "Restnetz" isoliert. Ein User-Zugriff auf dieses VLAN ist nicht möglich. Die Redundanz-steuerung wird somit nicht durch Störungen aus dem Produktionsnetz beeinflusst. Zusätzliche VLANs für separate Netze werden durch EAPS unterstützt.

Abbildung-9 oben zeigt exemplarisch einen EAPS-Ring im normalen Betrieb, also ohne akuten Fehler. Der EAPS-Master blockiert den zweiten (secondary) Ringport und verhindert so eine Schleife (Loop) in der redundanten Struktur. Abbildung-10 rechts zeigt einen EAPS-Ring im Fehlerfall. Der Ring ist unterbrochen. Der EAPS-Master schaltet den zweiten (secondary) Ringport frei und ermöglicht so die Überbrückung der Fehlerstelle. Die Unterbrechung im Datenverkehr liegt deutlich unter einer Sekunde und beträgt unter optimalen Rahmenbedingungen lediglich 50 Millisekunden (50ms)

Der Wechsel in den Normalbetrieb erfolgt in zwei Phasen. Abbildung-11 zeigt die erste Phase (Recovery-1). Der unterbrochene Link ist wieder hergestellt und befindet sich im Pre-Forwarding-Modus (es werden nur Daten im EAPS-Control-VLAN weitergeleitet). Der Secondary-Port des EAPS-Master ist immer noch im Forwarding-Mode (also noch nicht blockiert).

In Phase-2 des Recovery-Prozesses (Recovery-2) überträgt der wieder-hergestellte Link die Daten-VLANs. Der Secondary-Port am EAPS-Master ist wieder blockiert (Blocked Mode). Das System ist wieder im Normalbetrieb (vgl. Abbildung-12).

Die leitdrahtlosen und frei navigierenden FTS-Fahrzeuge kommunizieren über eine 5GHz WLAN-Infrastruktur mit den Leitrechnern im Rechenzentrum. Auf einer Fläche von 17.100qm stellt das WLAN sowohl den IEEE 802.11a Standard (5 GHz, 54Mbps, nur für FTS) als auch die IEEE 802.11 b/g Varianten (2.4 GHz, 11 & 54Mbps) zur Verfügung, welche parallel verwendet werden. Das 2.4 GHz-Band wird meist auch von anderen Technologien genutzt (u.a. Bluetooth), so dass das 5 GHz-Band weniger störanfällig und daher für das FTS besser geeignet ist. Zudem stehen im 5 GHz-Bereich mehr nutzbare Kanäle zur Verfügung. Durch den Einsatz von Richtantennen verfügt die Montagehalle über eine optimale Ausleuchtung. Die Ausleuchtung der Halle erfolgte im März 2009.

Das WLAN wurde im Juli 2009 in Betrieb genommen. Die Basis der WLAN-Infrastruktur bilden zwei redundant verschaltete Extreme Networks SummitWM-Controller (jeweils 1x pro RR) sowie insgesamt 18 Access Points (APs). Die APs sind hierbei Thin Access Points. Sie erhalten ihre Konfiguration nach Inbetriebnahme über einen IP-Tunnel vom Controller. Mittels Dynamic Radio Management (DRM) sind die Access Points in der Lage, ihre Funkparameter bei Störung einer Funkzelle automatisch anzupassen. Die APs können hierdurch den Ausfall eines benachbarten APs durch Leistungserhöhung kompensieren.

Die Administration des WLANs erfolgt über die Controller. Das WLAN ist in dezidierten Access Domains (separate SSIDs für FTS-WLAN und ein weiteres WLAN-Netz) aufgeteilt. Die Verschlüsselung erfolgt gemäß WPA2/AES bzw. WPA/TKIP. Jedes WLAN-Netz besitzt einen eigenen IP-Adressbereich. Die hochverfügbare WLAN-Controller-basierte Lösung in Kombination mit den Thin Access Points ermöglicht die zentrale Verwaltung und Überwachung des WLAN-Zugriffs.