Implementacja Gigabitowego Ethernetu na układach FPGA dla
Transkrypt
Implementacja Gigabitowego Ethernetu na układach FPGA dla
Implementacja Gigabitowego Ethernetu na układach FPGA dla eksperymentów fizycznych Grzegorz Korcyl INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHYSICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund Plan 1. Systemy akwizycji danych 2. Używana elektronika 3. Układy FPGA 4. Programowanie FPGA 5. Implementacja GbE 6. Podsumowanie INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 1. Systemy akwizycji danych Elektronika oraz oprogramowanie do pozwalające zmierzyć oraz zapisać sygnały z detektorów Rzeczywisty eksperyment: - Wiele detektorów - Tysiące kanałów danych - Tysiące pomiarów na sekundę - Analiza danych na żywo DAQ INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 1. Systemy akwizycji danych Eksperyment HADES System 7 detektorów 80 000 kanałów danych Do 55 000 przypadków na sekundę 520 płyt elektronicznych 550 FPGA 1050 optycznych nadajników 5km światłowodów Gigabit Ethernet + TrbNet Do 700 MBps danych zapisywanych High Acceptance Di-Electron Spectrometer at GSI Helmholtzzentrum fur Schwerionenforschung, Darmstadt (DE) INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 2. Używana elektronika Concentrators Detectors Front-End Electronics Readout electronics Trigger modules ● ● ● Detektory: ● Generuja analogowe sygnaly Tysiace kanałów ● Kształtowanie sygnałów ●Dyskryminacja Składanie jednostek danych Brama do sieci ●Transmisja danych kontrolnych ● ● ● ● ● ● ● ● Moduł wyzwalania: Generuje sygnał „migawki” Kontroluje działanie całego systemu Elektronika odczytu: Pomiar oraz cyfryzacja analogowych sygnałów ●Wstępna analiza ●Konstrukcja jednostek danych ● Koncenratory: ● Elektronika czołowa: ● Event builders Maszyny budujące: Składają części danych w pełne przypadki Zapisują dane na trwałych nośnikach INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 3. Układy FPGA Field Programmable Gate Array Programowalna logika Rekonfiguracja Równoległe przetwarzanie Porty do komunikacji Wbudowana pamięć Przetwarzanie sygnałów na żywo Rozwiązania CPU 3. Układy FPGA Piny IO Bloki logiczne (LUT, przerzutnik, multiplekser) Połączenia pomiędzy blokami Sprzętowe elementy (pamięć, moduły DSP, porty komunikacyjne, etc.) INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 3. Układy FPGA INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 4. Programowanie FPGA Projekt: Budowa: Opis logiki wykonywanej przez FPGA – języki HDL Plik mapujący piny na sygnały oraz określający wymagania Synteza – przetłumaczenie HDL na bramki logiczne wraz z połączeniami, uproszczenie, optymalizacja Place And Route – rozmieszczenie logiki wewnątrz układu FPGA Bitgen – Wygenerowanie pliku konfiguracyjnego Problemy: Błędy logiczne Czasy propagacji sygnałów Rozmiar zaprojektowanej logiki INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 4. Programowanie FPGA + = INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 4. Programowanie FPGA Język VHDL (VHSIC Hardware Description Language) Budowa: Język opisu sprzętu Ukierunkowany na przepływ danych Teoretycznie przenośny pomiędzy platformami Czasochłonna Nie zawsze przewidywalna Debugowanie: Symulacje (pre i post PAR) Analizator stanów logicznych ChipScope, Reveal Analyzers INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 5. Implementacja GbE Motywacja: Zebrane dane z detektorów trzeba przenieść do komputerów Znany standard, tanie, sprawdzone urządzenia Wsparcie producentów FPGA Projekty: Eksperyment HADES (GSI, Niemcy) Eksperyment BELLE2 (KEK, Japonia) Przyszły eksperyment PANDA (GSI, Niemcy) Ogólny projekt TRBv3 INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 5. Implementacja GbE Podstawowa implementacja dla HADESu: Moduły: Koncentrowanie danych z kilku źródeł Konstrukcja pakietów UDP Wybór komputera docelowego Transmisja Odbierający dane – interfejs z TrbNet Konstrukcja pakietów oraz ramek (OSI 3 + 4) Moduł transmitujący Moduł dostępu do sprzętu (OSI 1 + 2) Stan: W użyciu od 2 lat Prędkość transmisji do 50 MBps INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund 5. Implementacja GbE Rozszerzona implementacja Odbieranie pakietów - FullDuplex Implementacja podstawowych protokołów Transmisja do 118MBps Logika niezależna od układu FPGA Obsługa VLAN Jumbo Frames data control Ethernet GTP SGMII/GbE PCS Embedded MAC Packet Constructor FPGA Logic Frame Transmitter Transmit Controller Frame Constructor DHCP PING Frame Receiver Receive Controller Type Validator Protocol Prioritizer Protocol Selector Main Controller ARP DataRX INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund Link Controller 5. Implementacja GbE Zastosowanie – projekt 1 TRBv3 Płyta ogólnego zastosowania 5x Lattice ECP3 150 8x 3.2 Gbps SFP 4x 208 pin konektory – małe karty Addon 1x 106 pin konektor – regular Addon Kontrola całej płyty poprzez Ethernet … 5. Implementacja GbE Zastosowanie – projekt 1 TRBv3 Time-to-Digital Converter na FPGA Dokładny pomiar czasu propagacji sygnału wewnątrz FPGA 5. Implementacja GbE Zastosowanie – projekt 2 Compute Node ATCA 5x Xilinx Virtex4FX 75 8x 3.2 Gbps SFP 5x 2GB DDR2 Wysoka przepustowość oraz moc obliczeniowa do analizy danych na żywo PowerPC do implementacji wysoko poziomowych algorytmów 5. Implementacja GbE Zastosowanie – projekt 2 Compute Node Rozwiązania CPU na FPGA Hardware: Software: Procesory PowerPC wbudowane w urządzenia FPGA Kompilowalne procesory RISC MircoBlaze jako logika FPGA Możliwość uruchamiania programów napisanych w C Możliwość uruchomienia systemu operacyjnego 5. Implementacja GbE Zastosowanie – projekt 2 Compute Node Analiza danych oparta na wbudowanych w FPGA PowerPC 2GB SDRAM dla każdego z FPGA 6. Podsumowanie Eksperymenty fizyczne wymagają nowoczesnych rozwiązań w zakresie przetwarzania oraz transmisji danych Układy FPGA idealnie wpasowują się do stawianych wymagań Implementacja Gigabitowego Ethernetu rozszerza zakres możliwości oferowanych przez elektronikę wyposażoną w układy FPGa INTERNATIONAL PHD PROJECTS IN APPLIED NUCLEAR PHY SICS AND INNOVATIVE TECHNOLOGIES This project is supported by the Foundation for Polish Science – MPD program, co-financed by the European Union within the European Regional Development Fund