Τα κύρια συμπεράσματα και οι τεχνολογικές εξελίξεις από την Τεχνική Συνάντηση της ΕΕΛΛΑΚ στο ΕΜΠ.
Στις 9 Οκτωβρίου 2026, από τις 10:00 έως τις 13:00, ο Οργανισμός Ανοιχτών Τεχνολογιών (ΕΕΛΛΑΚ) φιλοξένησε στην Αίθουσα Πολυμέσων της Βιβλιοθήκης του ΕΜΠ, στην Πολυτεχνειούπολη Ζωγράφου, μια εσωτερική τεχνική συνάντηση εργασίας για τα ανοιχτά γλωσσικά μοντέλα που εγκαθίστανται και λειτουργούν σε τοπική υποδομή. Η συνάντηση είχε ως στόχο να παρουσιαστούν υλοποιήσεις που βρίσκονται σε εξέλιξη, να ανταλλαγούν εμπειρίες και να εξεταστούν τρόποι συνεργασίας σε τοπικά LLMs, υποδομές RAG, ελληνικά σώματα κειμένων και εφαρμογές για το δημόσιο τομέα. Η ΕΕΛΛΑΚ έδωσε ιδιαίτερη έμφαση στον έλεγχο των δεδομένων, στη διαφάνεια και στην αποφυγή εξάρτησης από κλειστές υποδομές.
Γιατί τοπικά μοντέλα
Όπως υπογράμμισε στην εισαγωγική του τοποθέτηση ο Παναγιώτης Σκαρβέλης, η μετάβαση σε τοπικές υποδομές ΤΝ (Local LLMs) δεν αποτελεί θεωρητικό σενάριο αλλά επιτακτική ανάγκη Οι βασικοί άξονες εστιάζουν στην ψηφιακή κυριαρχία, την προστασία προσωπικών και ευαίσθητων δεδομένων από τη διαρροή σε κλειστά cloud APIs εξωτερικών παρόχων, καθώς και στην εξάλειψη του κινδύνου αιφνίδιας διακοπής πρόσβασης ή εξάρτησης (vendor lock-in) .
Παράλληλα, αναδείχθηκε το οικονομικό ρίσκο της τιμολόγησης ανά token (pay-per-use). Μεγάλες εταιρείες SaaS (όπως η Anthropic και το GitHub) μεταβαίνουν από σταθερές συνδρομές σε χρέωση βάσει κατανάλωσης, γεγονός που —σύμφωνα με ανάλυση της BCG— εγκυμονεί κινδύνους εκτόξευσης των προϋπολογισμών κατά 500% έως 1000% λόγω του φαινομένου «tokenmaxxing» και του παραδόξου του Jevons. Αντίθετα, η τοπική φιλοξενία επιφέρει μόνο αρχικό κόστος εξοπλισμού, προσφέροντας πλήρη έλεγχο και προβλεψιμότητα.
GlossAPI & Greek Apertus: Ανοιχτά Δεδομένα για την Ελληνική Γλώσσα
Στην συνέχεια, ο Ο Φοίβος Καρούνος-Ζαμπαρλούκος παρουσίασε τη δράση GlossAPI, η οποία στοχεύει στη δημιουργία ανοιχτών συνόλων δεδομένων ως θεμέλιο για την ελληνική ΤΝ. Τα ελληνικά κατατάσσονται στις γλώσσες μέσου πόρου (medium resource language, ~1% του διαδικτύου). Βάσει του κανόνα Chinchilla scaling (~20 tokens ανά παράμετρο), η εκπαίδευση ενός λειτουργικού μοντέλου 7B–8B παραμέτρων απαιτεί ελάχιστο όγκο ~1 TB κειμένου.
Για την αντιμετώπιση αυτής της πρόκλησης, το GlossAPI ανέπτυξε μια αυτοματοποιημένη ροή εργασίας (workflow) που κατεβάζει αρχεία PDF, εξάγει το κείμενο, αξιολογεί την ποιότητα με γλωσσικούς κανόνες και εφαρμόζει διορθώσεις OCR όπου απαιτείται. Μέσω αυτής της προσπάθειας και της αξιοποίησης του πολυγλωσσικού συνόλου HPLT (~334 GB με υψηλή βαθμολογία ποιότητας), εκπαιδεύτηκε το Greek Apertus v0.5 / 8B σε διάστημα 4 μηνών με επιχορήγηση του Swiss AI Initiative. Το Greek Apertus αποτελεί το πρώτο πλήρως ανοιχτό ευρωπαϊκό μοντέλο (με ανοιχτά σύνολα δεδομένων, κώδικα και βάρη). Στις αξιολογήσεις (benchmarks), πέτυχε 70.52% στο GreekMMLU, 65.80% στο Greek IFEval και 59.67% στο Greek GSM8K, προσφέροντας διαφάνεια και αναπαραγωγιμότητα.
Τοπική Υποδομή HPC & vLLM στο Χαροκόπειο Πανεπιστήμιο
Οι Αριστοτέλης Μπάλλας και Χρήστος Δίου παρουσίασαν τις υποδομές που αναπτύσσει το Τμήμα Πληροφορικής και Τηλεματικής του Χαροκοπείου Πανεπιστημίου:
- Private Cloud (Proxmox VE): Περιλαμβάνει 4 clusters, 24 φυσικούς κόμβους, 1.000+ CPU cores, ~4.6 TiB RAM και >210 TiB αποθηκευτικό χώρο για γενικές εκπαιδευτικές, ερευνητικές και διοικητικές ανάγκες.
- Σύμπλεγμα HPC (SLURM): Αποτελείται από 7 κόμβους (hpc01–hpc07) με κάρτες GPU (A100, RTX6000, H100, καθώς και 8× H200 με NVLINK στον hpc06).
- Διαχείριση Πόρων & Preemption: Μέσω SLURM QoS, παρέχεται η δυνατότητα preemption, επιτρέποντας στα LLMs να τρέχουν σε χαμηλής προτεραιότητας partitions και να διακόπτονται/επανεκκινούνται αυτόματα όταν εισέρχονται ερευνητικές εργασίες υψηλής προτεραιότητας.
- vLLM & Μοντέλα: Χρησιμοποιείται η μηχανή vLLM με continuous batching για παράλληλη εξυπηρέτηση χρηστών
Έχουν αναπτυχθεί το Qwen 3.8-27B (σε 2× H100 με παράθυρο περιεχομένου 245K tokens) και το GLM 5.3 / 70B (σε 8× H200).
API & Εφαρμογές: Η πρόσβαση γίνεται μέσω ενός OpenAI-συμβατού API endpoint με LiteLLM proxy, TLS και API keys. Το σύστημα χρησιμοποιείται στην έρευνα, στη διδασκαλία εργαστηρίων, σε agents παραγωγικότητας (qwen-code, Hermes agent) και στη διοικητική επεξεργασία εγγράφων
Βιομηχανική Εφαρμογή στη Ναυτιλία: Η Προσέγγιση της Agency Trust
τοπικά-llms-στην-πράξη-τι-παρουσιάστηκε-στην-τεχνική-συνάντηση-της-εελλακ-στο-εμπ
Οι Νικόλαος Χρυσάκης (pdf παρουσίασης) , Αχιλλέας Μάντζιος και Ιωάννης Μαζαράκης παρουσίασαν (pdf παρουσίασης) την παραγωγική εφαρμογή τοπικών LLMs στη διαχείριση στόλου 120 πλοίων:
- Εταιρική Υποδομή: Εγκατάσταση τοπικού διακομιστή με 8× Blackwell GPUs (96GB) και 1.5 TB RAM εντός των γραφείων της εταιρείας.
- Επιλογή Μοντέλου & Caching: Επιλέχθηκε το GLM 5.3 λόγω του χαμηλότερου ποσοστού παραισθήσεων (hallucinations) σε κρίσιμες επιχειρησιακές αποφάσεις
- Παράλληλα, εφαρμόζεται LM Cache / KV Cache στη RAM ως L2 cache, επιτυγχάνοντας 98.8% hit rate.
- Κανονικοποίηση Δεδομένων (Data Normalization): Ταυτόχρονη διαχείριση και αντιστοίχιση 8.000+ sensor tags ανά πλοίο από διαφορετικούς κατασκευαστές σε ενιαίο conceptual λεξιλόγιο.
- Custom Agentic Stack: Ανάπτυξη ιδιόκτητου framework (QMA, QCLE, QCLI) σε Java με repo maps, symbol maps, LSP integration και αυστηρό έλεγχο μέσω Mutation Testing (PIT).
- Επιχειρησιακά Οφέλη: Ο διαχωρισμός τιμολογίων στο λογιστήριο (Owners vs. Charterers) μειώθηκε από 1 εβδομάδα σε μόλις 15 λεπτά, ενώ παράλληλα πραγματοποιείται ασφαλής νομική ανάλυση συμβολαίων ναύλωσης (Charter Party)
Pharos AI Factory: Πολυμισθωτική Υποδομή Υψηλών Επιδόσεων
Ο Ιωάννης Κωνσταντίνου παρουσίασε την αρχιτεκτονική του Pharos AI Factory, μίας ευρωπαϊκής πρωτοβουλίας βασισμένης στους υπερυπολογιστές Δαίδαλος (~89 PFLOPS) και Ίκαρος (50× GH200):
- Αρχιτεκτονική Multitenancy: Διαχωρισμός σε Provisioning Path (αγορά/κράτηση πόρων μέσω Valdur marketplace) και Run Path (εκτέλεση real-time inference σε Kubernetes και batch/training εργασιών σε SLURM).
- Έλεγχος Χρήσης (Token Metering): Επιβολή μηνιαίων ορίων tokens ανά ομάδα μέσω LightLLM proxy και OpenWebUI.
- Βελτιστοποίηση vLLM: Εφαρμογή speculative decoding και προσαρμοσμένου 3-step all-reduce αλγορίθμου (aware της τοπολογίας CPU-islands/PCIe), αυξάνοντας την ταχύτητα παραγωγής από 1.5 σε 12–16+ tokens/secondτοπικά-llms-στην-πράξη-τι-παρουσιάστηκε-στην-τεχνική-συνάντηση-της-εελλακ-στο-εμπ
Ανοιχτή Συζήτηση & Συμπεράσματα
Η ανοιχτή συζήτηση στο τέλος της συνάντησης ανέδειξε αρκετά κοινά θέματα.
Μηχαναγνώσιμα Έγγραφα στο Δημόσιο: Τονίστηκε η ανάγκη έκδοσης οδηγιών από το Υπουργείο Ψηφιακής Διακυβέρνησης για την υποχρεωτική παραγωγή δομημένων, μηχαναγνώσιμων PDF (στα πρότυπα Ολλανδίας και Γερμανίας), ώστε να αποφεύγεται το κοστοβόρο OCR σε σκαναρισμένα έγγραφα της Διαύγειας και του Εθνικού Τυπογραφείου.
Ο Ρόλος του Ανθρώπου (“Human-in-the-Loop”): Τα LLMs ορίστηκαν ως «πιθανοτικά μηχανήματα» (probabilistic machines) . Ο χρήστης οφείλει να είναι εξειδικευμένος (domain expert) για να αξιολογεί τα αποτελέσματα, καθώς η ΤΝ λειτουργεί ως ενισχυτής παραγωγικότητας και όχι ως αντικαταστάτης.
Θεμελιώδεις Αρχές (Fundamentals): Η αποτελεσματική χρήση εργαλείων ΤΝ στον προγραμματισμό απαιτεί βαθιά κατανόηση των βασικών αρχών της Πληροφορικής (λειτουργικά συστήματα, δίαυλοι επικοινωνίας/PCIe, αρχιτεκτονική υπολογιστών) .
Δικτύωση Κοινότητας: Προτάθηκε η δημιουργία καναλιού επικοινωνίας (Matrix/Element) από την ΕΕΛΛΑΚ για τη συνεχή ανταλλαγή τεχνογνωσίας, οδηγών εγκατάστασης και καλών πρακτικών μεταξύ πανεπιστημίων, φορέων και επιχειρήσεων. Όσοι/ες από εσάς ενδιαφέρονται να συμμετέχουν μπορούν να στείλουν email στο admin@eellak.gr για να λάβουν οδηγίες σύνδεσης στο κανάλι επικοινωνίας
Δείτε το πλήρης βίντεο της τεχνικής συνάντησης στο https://www.youtube.com/watch?v=uhCuSozU8kg