Veröffentlicht am: Nov 27, 2023
Ab heute verwenden das AWS Command Line Interface (AWS CLI) und das Python SDK automatisch die AWS Common Runtime (CRT), um die Datenübertragung zwischen HAQM S3- und HAQM EC2 Trn1-, P4d- und P5-Instances zu beschleunigen. Das AWS CRT implementiert die Best Practices von HAQM S3 für die Parallelisierung von Anfragen, automatische Wiederholungsversuche, DNS-Lastenausgleich und mehr, um hohe Datenübertragungsraten zwischen HAQM EC2 und HAQM S3 zu erzielen. Aus diesem Grund laden Trainingsjobs für Machine Learning Trainingsdaten jetzt bis zu dreimal schneller von HAQM S3 herunter und laden Modell-Checkpoints bis zu fünfmal schneller auf HAQM S3 hoch, was die Trainingszeiten insgesamt beschleunigt.
Diese Änderung ist automatisch in den neuesten AWS Deep Learning AMIs (DLAMI) enthalten, wenn HAQM EC2 Trn1-, P4d- und P5-Instances gestartet werden, die sich ideal für generative KI-Modelle eignen, einschließlich großer Sprach- und Diffusionsmodelle. Jetzt profitieren Anwendungen, die die AWS-CLI und das Python-SDK für den Zugriff auf HAQM S3 verwenden, automatisch von den Leistungsvorteilen des AWS CRT. Das AWS CRT optimiert für die hohe Netzwerkbandbreite, die auf diesen Instances verfügbar ist, sodass Sie das Beste aus Ihren Rechenressourcen herausholen können, ohne die Speicherleistung manuell anpassen zu müssen. Weitere Informationen finden Sie in der Python-SDK-Dokumentation und in der CLI-Dokumentation.