Saqlash bo'yicha menejer - Storage Resource Manager

The Saqlash manbalarini boshqarish (SRM) texnologiyasi Ilmiy Ma'lumotlarni boshqarish guruhi tomonidan boshlangan Lourens Berkli nomidagi milliy laboratoriya (LBNL) va turli xil saqlash tizimlarida katta ma'lumotlar to'plamlarini boshqarish ehtiyojlarining o'sishiga qarab ishlab chiqilgan.

Dinamik saqlashni boshqarish quyidagilarni ta'minlash uchun muhimdir.

  1. ma'lumotlar yo'qotilishining oldini olish,
  2. ma'lumotlar replikatsiyasining xato stavkalarining pasayishi va
  3. tahlil qilish vazifalarini oxirigacha saqlash uchun joy ajratilishini ta'minlash orqali tahlil vaqtini qisqartirish.

Etakchilik sinfidagi mashinalarda ishlaydigan simulyatsiyalar ma'lumotlari o'z vaqtida ommaviy saqlash tizimiga o'tkazilmagani sababli yo'qolgan ko'plab misollar mavjud. Saqlash bo'yicha menejerlar (SRM) bunday muammolarni saqlashni taqsimlashni muvofiqlashtirish, saytlar orasidagi ma'lumotlarni uzatish va saqlash tizimlariga xavfsiz interfeyslarni o'rnatish (ya'ni har bir saqlash tizimining o'z uyidagi maxsus xavfsizlik talablari bilan ishlash) orqali hal qilishadi. Masalan, ishlab chiqarish muhiti, SRM-lardan foydalangan holda, STAR loyihasida katta hajmdagi takrorlanishning xato stavkalari 1% dan 0,02% gacha kamaytirildi. Bundan tashqari, SRMlar ishdagi muvaffaqiyatsizliklarning oldini olishlari mumkin. Ishlarni klasterlarda ishga tushirishda mahalliy disklarning bir qismi ish tugamasdan to'ldiriladi, natijada mahsuldorlik pasayadi va shu sababli tahlil kechiktiriladi. Bu bo'sh joy dinamik ravishda taqsimlanmaganligi va oldingi keraksiz fayllar olib tashlanmagani sababli sodir bo'ladi. Hisoblash va tarmoq resurslarini dinamik ravishda taqsimlash uchun vositalar mavjud bo'lsa-da, SRMlar bo'sh joyni dinamik ravishda bronlashni ta'minlash, umrbod qo'llab-quvvatlash bilan xavfsiz fayl mavjudligini kafolatlash va saqlash tizimlarining tiqilib qolishiga yo'l qo'ymaydigan avtomatik axlat yig'ish uchun yagona vositadir.

SRM spetsifikatsiyasi amalda xalqaro standartga aylandi va ko'plab loyihalar ushbu texnologiyadan, xususan, HEP va HENP jamoalarida, masalan, ATLAS va CMS-ni qo'llab-quvvatlovchi Butunjahon Katta Hadron Kollayderi (LHC) Hisoblash Tarmoqlari (WLCG) dan foydalanishni o'z zimmalariga oldi. .SRM yondashuvi - bu turli xil institutlar tomonidan o'zaro ishlashga imkon beradigan yagona standart interfeysni ishlab chiqish. Ushbu yondashuv bitta dasturga bog'liqlikni olib tashlaydi va bir nechta guruhlarga o'ziga xos saqlash resurslari uchun SRM tizimlarini ishlab chiqishga ruxsat beradi. Ushbu yondashuv katta hajmdagi ma'lumotlarni samarali va xavfsiz boshqarish va tarqatish kerak bo'lgan bunday yirik loyihalar uchun saqlash tizimlarining o'zaro aloqasi uchun juda muhimdir. Bunday birlashtiruvchi texnologiyasiz bunday loyihalar miqyosini oshira olmaydi va barbod bo'lishi shart. Ushbu muammo vaqt o'tishi bilan o'sib boradi, chunki hisoblash moslamalari petaskal rejimiga o'tadi.

SRM-larning yana bir muhim muammosi - bu tiqilib qolgan joy. Saqlashning tiqilib qolishi keng ko'lamli umumiy saqlash tizimlari uchun juda muhim muammo hisoblanadi, chunki ular ishlatilgandan keyin fayllarni olib tashlash avtomatlashtirilmagan. Bu saqlash narxini oshiradi va tahlil va kashfiyot jarayonini sekinlashtiradi. SRMlar kirish huquqiga ega bo'lgan fayllarni umrbod boshqarishni ta'minlash orqali vaqtinchalik saqlash tizimlarini blokirovka qilishga yordam beradi. Ushbu imkoniyat xarajatlarni cheklash sharoitida ombordan samarali foydalanish uchun juda muhimdir.

SRMlar ma'lumotlarga kirishni ta'minlash uchun shlyuzlar vazifasini ham bajaradi. SRM standart interfeysi orqali barcha saqlash tizimlariga tashqi kirishni cheklash orqali nafaqat autentifikatsiyalangan kirish, balki fayllarga vakolatli kirish huquqini ham ta'minlash mumkin.SRM texnologiyasi SciDAC-1da juda muvaffaqiyatli bo'lgan va hozirda ishlab chiqarishda bir nechta yirik hamkorlik. Birgalikda ishlaydigan SRM dasturlari LBNL, FNAL va TJNAF, shuningdek Evropaning bir nechta saytlarida ishlab chiqilgan. Bundan tashqari, ushbu texnologiya saqlashni boshqarish, ma'lumotlarning ishonchli harakatini amalga oshirish va turli xil saqlash joylarida xavfsizlik talablari bilan shug'ullanish kabi zerikarli va ko'p vaqt talab qiladigan vazifalarni yo'q qilish orqali olimning samaradorligini oshiradi.

LBNL jamoasi bir nechta institutlar bilan muvofiqlashtirish orqali SRM standartlarini ishlab chiqishga rahbarlik qilishdan tashqari, disklarni saqlash va ommaviy saqlash tizimlarida, shu jumladan HPSSda SRM tizimlarini ishlab chiqdi. Ushbu SRMlar bir nechta dastur domenlarida, jumladan SDM markazida, Earth System Grid, STAR eksperimenti va Open Science Grid (OSG) da bir nechta loyihalarda ishlatilgan. Ma'lumotlar to'plami o'sishda va tobora murakkablashib borar ekan, ushbu loyihalar LBNL tomonidan SRM dasturlarining doimiy rivojlanishi va qo'llab-quvvatlanishiga bog'liq. SciDAC-1 yutuqlaridan foydalanish va SRM texnologiyasiga bog'liq bo'lgan joriy loyihalarni qo'llab-quvvatlash, SRM-larni qo'shimcha loyihalar va dastur sohalarida yanada takomillashtirish va joylashtirish va SRM standartining evolyutsiyasini davom ettirish juda muhimdir. Xususan, o'tgan tajribaga asoslanib, biz yanada rivojlantirish va muvofiqlashtirishni talab qiladigan muhim xususiyatlarni aniqladik. Ular SRM-larda kvotalardan foydalanishni ta'minlash maqsadida ishlashni baholash, avtorizatsiyani bajarish va buxgalteriya hisobi va hisobot uchun ishlatilishi mumkin bo'lgan resurslarni monitoring qilishning murakkab jihatlarini o'z ichiga oladi. Keyingi rivojlanishni talab qiladigan yana bir jihat - bu ko'p komponentli saqlash tizimlari uchun SRMlar. Bir nechta diskli massivlar, parallel fayl tizimlari va arxiv saqlash vositalarining kombinatsiyasidan tashkil topgan bunday tizimlar keng tarqalib bormoqda, chunki boshqarish kerak bo'lgan ma'lumotlar hajmi petascale hisoblash bilan keskin o'sib boradi.

Haqiqiy dasturlarda SRMlardan foydalanish

SRM interfeyslari hamkorlikda aniqlangan va AQSh va Evropada bir nechta dasturlar ishlab chiqilgan. LBNL kontseptsiyalarni taqdim etdi va keyinchalik jamoatchilikka asoslangan umumiy interfeysni aniqlash bo'yicha muvofiqlashtirilgan harakatlarni amalga oshirdi. Bir nechta dasturlar HEP, HENP, ESG, shuningdek Fusion simulyatsiyasi, biologiya va boshqalarning yangi domenlari kabi turli xil dasturlarda joylashtirilgan. Bugungi kunga qadar SRM foydalanishning ba'zi o'ziga xos xususiyatlari:

  • LBNL-ning SRM-lari so'nggi bir necha yil ichida BNL-dan NERSC-ga avtomatlashtirilgan usulda haftasiga 10 000 ta fayl (taxminan 1 TB) tezlikda kuchli ma'lumotlarni uzatishni qo'llab-quvvatlash uchun ishlatilgan. Ushbu kelishuv STAR loyihasida xatolik darajasi 50% ga 1% dan 0,02% gacha pasayishiga olib keldi.
  • GridCollector deb nomlangan bitta dasturda SRM'lar STAR tahlilini ancha tezlashtirish uchun samarali indeksatsiya usuli bilan birgalikda ishlatilgan. Bir necha holatlarda, tahlilchilar bir necha oy davomida tegishli ma'lumotlarni saralab olishlarini kutgan oldingi harakatlar bilan taqqoslaganda, bir kun ichida topshiriqni bajarishdi. Ushbu asar ISC'05-da eng yaxshi qog'oz mukofoti bilan taqdirlandi.
  • SRM bilan hamkorlik LBNL, FNAL va BNL, so'ngra CERN va RAL o'rtasida o't ildizlari faoliyati sifatida o'sdi. Binobarin, umumiy interfeys ishlab chiqildi va ushbu faoliyat ayni paytda davom etmoqda. Ushbu standart WLCG hamkorligi bilan moslashtirilgan.
  • SRMlar ishlab chiqarishda BNL, NERSC, FNAL, CERN, TJNAF, ORNL va NCAR va boshqa Evropa va Osiyodagi korxonalar tomonidan ishlatilgan.
  • Muvaffaqiyatli joylashtirishning yana bir misoli - bu FNAL-da ishlab chiqilgan SRM-dCache. U CMS loyihasida foydalanish uchun keng tarqalgan bo'lib, u CERN-da SRM-Castor bilan o'zaro ta'sir qiladi. Ushbu harakat SRM-larning foydaliligini 40 dan 60 MB / s gacha bo'lgan tezlik bilan Kastordan FNAL dCache-ga va lentaga SRM-SRM boshqariladigan doimiy o'tkazmalarini amalga oshirish orqali namoyish etdi.
  • SRMlar TJNAF tomonidan JASMine ommaviy saqlash tizimiga masofadan kirish bilan CLAS va Lattice QCD hamkorligini ta'minlash uchun ishlatiladi. Bunday kirish tadqiqotchilarga universitetlar va boshqa hamkorlikdagi institutlarning hisoblash manbalaridan faqat TJNAF hisoblash manbalari yordamida amalga oshirilganidan bir necha hafta yoki bir necha oy oldin ma'lumotlarni qayta ishlash va tahlil qilish uchun imkoniyat yaratdi.
  • LBNL-ning SRMlari Yer tizimlari tarmog'i (ESG) loyihasida ishlab chiqarishda NERSC, NCAR, ORNL, LLNL va LANL-da, shu jumladan HPSS va NCAR-MSS-da joylashgan bir nechta masofaviy saqlash tizimlaridan shaffof kirishni ta'minlash uchun ishlatilgan. SRM disk versiyasi ESG portali tomonidan bir nechta mijozlar uchun fayllar ombori sifatida foydalanilganda disk maydonini boshqarish uchun ishlatilgan.
  • Ma'lumotlarning keng miqyosli mustahkam harakatlanishi uchun CPES termoyadroviy loyihasi uchun SRM-lardan foydalanish SDM markazi faoliyati doirasida ish oqimi dvigatellariga kiritiladi.

Saqlash bo'yicha menejer dasturlarining ro'yxati:

Shuningdek qarang