Modele mms

Model Server for Apache MXNet (MMS) est un composant Open source conçu pour simplifier la tâche consistant à déployer des modèles d`apprentissage profond pour l`inférence à grande échelle. Le déploiement de modèles pour l`inférence n`est pas une tâche insignifiante. Elle nécessite la collecte des différents artefacts de modèle, la mise en place d`une pile de service, l`initialisation et la configuration du cadre d`apprentissage profond, l`exposition d`un point de terminaison, l`émission de métriques en temps réel et l`exécution de code pré-processus et post-processus personnalisé, pour ne citer qu`un quelques-unes des tâches d`ingénierie. Bien que chaque tâche ne soit pas trop complexe, l`effort global impliqué dans le déploiement de modèles est assez significatif pour rendre le processus de déploiement lent et encombrant. Centré autour des phénomènes multiéchelles, la modélisation et la simulation multiéchelles (MMS) est une revue interdisciplinaire axée sur les principes fondamentaux de modélisation et de calcul sous-jacents à diverses méthodes à plusieurs échelles. Plus tôt cette semaine, AWS a annoncé la disponibilité de Model Server pour Apache MXNet, un composant Open source construit au-dessus d`Apache MXNet pour servir des modèles d`apprentissage en profondeur. Apache MXNet est un Framework de formation et d`inférence rapide et évolutif avec une API facile à utiliser et concise pour l`apprentissage automatique. Avec Model Server pour Apache MXNet, les ingénieurs sont maintenant en mesure de servir les modèles MXNet facilement, rapidement et à grande échelle. MMS est disponible à utiliser via un paquet PyPi, ou directement à partir du référentiel GitHub Model Server, et il fonctionne sur Mac et Linux. Pour les cas d`utilisation de la production évolutive, nous vous recommandons d`utiliser les images docker préconfigurées qui sont fournies dans le référentiel GitHub MMS. La prise en main de MMS est facile, comme nous le démontrerons dans l`exemple suivant.

Cet exemple tire parti d`un modèle de détection d`objet SqueezeNet v 1.1 préformé qui est publiquement disponible dans le modèle Zoo de MMS. Le serveur de modèle MXNet (MMS) peut être utilisé avec n`importe quel service de conteneur. Dans ce guide, vous allez apprendre à exécuter MMS avec docker. Pour commencer, vous avez besoin de Python, qui est la seule condition préalable pour le MMS. Si vous n`avez pas installé python, installez Python 2,7 ou 3,6, en suivant les instructions sur le site Web de Python. Assurez-vous que vos réseaux connaissent l`important travail accompli dans votre région. Publiez le dépliant du journal en ligne ou imprimez une copie à partager. Vous verrez une réponse semblable à celle qui suit, avec le modèle identifiant l`objet dans l`image pour être un “chat égyptien” avec 85% de probabilité. Yay! Remarque: Si vous modifiez le inference_address ou le management_address dans le fichier de configuration, vous devez également modifier les ports exposés par docker.

Le MMS a été conçu pour faciliter l`utilisation, la flexibilité et l`évolutivité. Il offre des fonctionnalités supplémentaires au-delà de celles abordées dans ce billet de blog, y compris la configuration des terminaux de service, les métriques en temps réel et la journalisation, les images de conteneur préconfigurées, et plus encore. Vous avez essayé les paramètres d`API prédictions par défaut à l`aide d`un modèle SqueezeNet. Vous avez ensuite configuré vos points de terminaison d`API prédictions pour servir également un modèle ResNet-18. Maintenant, vous êtes prêt à essayer d`autres paramètres plus avancés tels que: comme illustré dans le diagramme, les artefacts obligatoires nécessaires pour empaqueter une archive de modèle sont l`architecture et les paramètres du réseau neuronal du modèle (calques, opérateurs et pondérations), ainsi que le service type de données d`entrée et de sortie et les définitions de forme de tenseur.

投稿者:

ripple-pub

THETHE」編集長・発行人 大学卒業後、学校法人文化学園文化出版局へ。 「キャラウェイ」編集部を経て「MRハイファッション」編集部に約8年在籍。異動により「装苑」編集部へ。ファッション以外に、映画、音楽、本、アート、デザイン、建築など多岐に亘る分野を担当。数多くのインタビューなどをしている。 その後、エイ出版の「沖縄スタイル」編集部へ。このとき1年ほど沖縄で過ごし、沖縄にハマりだす。 一度東京へ戻り、アートのフリーペーパー「art_icle」の編集長となり、同時にソニー・マガジンズの「REBOOT」のファッションページも担当する。 リーマン・ショック以降の雑誌のあり方に疑問を持ち、電子書籍出版を目指しウェブに関する勉強を始める。 2008年、ウェブに関するある程度の知識を得てから沖縄に本格的に移り住む。 2014年、稲葉孝之氏が撮り続けた3.11以降の福島県・双葉町の写真集「原発村の1年半〜nuclear villeage」を編集し電子書籍で出版する。 同年、藤代冥砂氏をアートディレクターに迎え、電子書籍レーベル「THETHE」を立ち上げる。