трусики женские купить украина
реферати студентам
« Попередня Наступна »

10.3. Реалізація методів узагальненого покоординатного спуску


Методи обчислення похідних. Для функціоналів, заданих аналітично, можна скористатися аналітичним методом обчислення похідних. Проте насправді такий підхід має обмежене застосування, т. к. реальні функціонали мають досить складну алгоритмічну структуру, що не дозволяє скористатися аналітичним диференціюванням. Тому найбільш часто на практиці застосовуються напіваналітичного і чисельні методи.
Напіваналітичного методи займають проміжне положення між аналітичними і чисельними методами побудови похідних. Ці методи засновані на використанні спеціальної структури мінімізації-руемих функціоналів і в цьому сенсі виявляються менш універсальн-ними, ніж чисельні методи.
Розглянемо характерні (див. розд. 8.6) для практичних завдань конечномерной оптимізації функціонали спеціального виду:
m
400 V=2, 3, ...; (10.8)
к=1
m
ЛОО ^ 'Е ^ "7 * ^)' v=l, 2, ..., (10.9)
к=1
де Фа., zk - алгоритмічно задані функції вектора керованих параметрів.
Маємо такі вирази для складових вектора градієнта:
а ^ О ^ фГЧх) ^; (10.10)
ОХ, TZ дх.
Щ k=] dx,
Природний спосіб отримання других похідних полягає в лінеаризації функцій <р к, zk поблизу поточної точки Л: ':
Ф Л (х)=q> A. (x') + (Еф до (х ') / д х, х-х'У,
zk (x)=zk (x) + (dzk (x') / dx, х-х ' ). (10.12)
Використовуючи (10.12), одержуємо
=(10.13)
дхрх. t=\ Щ OXj
=v=l, 2, .... (10.14)
oxiox / ох} ox /
З виразів (10.13 ), (10.14) випливає, що обчислення других похідних минимизируемого функціоналу може бути зведене до обчислення перших похідних функцій срь zk. Останнє завдання для багатьох практичних ситуацій вирішується відносно просто. Зокрема, можливий чисельний підхід для обчислення ЕФЛ / Е xh д zk / d xh що значно простіше прямого чисельного обчислення матриці Гессе (звідси назва - напіваналітичного метод).
Подальша деталізація структури розв'язуваної задачі зазвичай дозволяє побудувати ефективний алгоритм отримання зазначених похідних першого порядку. Наприклад, добре відомі методи побудови похідних рішень диференціальних рівнянь за параметрами.
Ще одним прикладом використання специфіки задачі оптимізації для обчислення перших похідних може служити відомий в теорії електричних ланцюгів метод, заснований на теоремі Теллеген і дозволяє знаходити приватні похідні реакцій схеми за параметрами компонентів. При цьому аналіз чутливості може проводитися як в тимчасовій, так і в частотній областях.
Звернемося тепер до чисельних методів обчислення похідних. Перевагою чисельного підходу крім його універсальності є низька вартість підготовки завдання до комп'ютерного моделювання. Від користувача потрібно лише написати програму для обчислення значення J (x) при заданому х. Реалізовані на основі численних похідних методи оптимізації виявляються сутнісно прямими методами (так називаються методи, які не використовують у своїй схемі похідні функціоналу J (x)). Дійсно, замінюючи dJ / dxh наприклад, звичайно-різницевим відношенням (J (x + se /) - J (x)) / s, де? j=(0, ..., 1,0), ми фактично використовуємо лише значення J, обчислені за певних значеннях аргументу.
Усі розглянуті в цій книзі методи оптимізації будуються на основі використання локальної квадратичної моделі минимизируемого функціоналу, одержуваної із загального розкладання в ряд Тейлора. Естест-венно тому при виборі формул чисельного диференціювання також керуватися ідеєю локальної квадратичной апроксимації. Виходячи з цього доцільно замість формул з односторонніми приростами (подібно щойно розглянутим) застосовувати двосторонні звичайно-різницеві апроксимації похідних, що опиняються точними для квадратичних функціоналів. Дійсно, легко прове-рить, що якщо f (x)=1/2 (Ах , х) - (Комерсант, х), то рівність (10.15)
2s
д /=/ (* + Jgf.) - / (*-Jgf -) Ех,. 2s виявляється точним при будь-якому s * 0.
Точно так же точним виявляється таке уявлення для других похідних квадратичного функціоналу:
(10.16)
-f (x + se <- sej) + / (* - sei - sej)). При використанні співвідношень (10.15), (10.16) обчислювальні витрати характеризуються числом звернень до обчислення значень J (x) : для обчислення градієнта-2п, для обчислення матриці Гессе-(2л2 + 1) звернень, де п - розмірність вектора х.
Для викладаються далі методів оптимізації досить визначати J '(x) і J " (x) з точністю до множника, тому при реалізації формул (10.15), (10.16) розподіл відповідно на 2s і 4s2 не проводиться. Це дозволяє усунути відомі труднощі обчислень, якщо значення s виявляється відносно малим. Якщо необхідно працювати з різними кроками st по окремих компонентах xt вектора х, то можна належним чином ввести масштаби незалежних змінних, залишаючи без зміни стандартну програму обчислення похідних.
Методи діагоналізацією. В якості основної процедури приведення симетричною матриці до головних осей може бути вибраний широко з-Вестн метод Якобі, незважаючи на наявність конкуруючих і, взагалі
кажучи, більш ефективних обчислювальних схем. Цей вибір обуслов-лен наступними обставинами. По-перше, обчислені методом Якобі власні вектори завжди строго ортонормального з точністю, яка визначається точністю комп'ютера навіть при кратних власних числах. Останнє дуже істотно при використанні цих векторів як базису, т. к. запобігається можливість виродження базису, існуюча, наприклад, у методі Пауелла. По-друге, багато ви-числівники схеми мають перевагу перед методом Якобі лише при вирішенні часткової проблеми власних значень. У нашому ж випадку завжди вирішується повна проблема і тому виграш у часі виявляється несуттєвим при істотно більш складних обчислювальному тільних схемах. По-третє, алгоритми, засновані на методах Якобі, часто виявляються найбільш доступними, т.к. відповідні про-грами є в більшості обчислювальних лабораторій. І нарешті, певний вплив на вибір алгоритму справила простота логіки методу Якобі, що призводить до компактності реалізують його програм.
В задачах великої розмірності в порівнянні з методом Якобі більш кращим за обсягом обчислювальних витрат виявляється метод, який використовує перетворення Хаусхолдера для приведення матриці до трехдиагональной формі з подальшим зверненням до QR-алгоритму визначення власних векторів симетричною трехдиагональной матриці.
У методі Якобі вихідна симетрична матриця А приводиться до діагонального вигляду за допомогою ланцюжка ортогональних перетворень виду
Ak +]=UTkAkUk; А0=А, /:=1,2 , ..., (10.17)
є перетвореннями обертання. У результаті належного вибору послідовності {t / A.} отримуємо limAk=D=UTA f /, A: -> =>, де D=diag (A,,) - діагональна матриця; U=U0UXU2 ... - ортогональна матриця. Оскільки (10.17) є перетворення подібності, то на діагоналі матриці D розташовані власні числа матриці А \ стовпці матриці Uесть власні вектори матриці А.
Елементарний крок (10.17) процесу Якобі полягає в перетворенні за допомогою матриці Uk={щ} 9 відрізняється від одиничної елементами upp=uqq=coscp, upq=-uqp=sincp. Кут обертання cp вибирається таким чином, щоб зробити елемент apq матриці А нулем. Питання збіжності різних чисельних схем, що реалізують метод Якобі, докладно досліджені в літературі.
За основу може бути взятий алгоритм jacobi (з відомої колекції алгоритму Уїлкінсона і Райнша, записаних на мові Алгол), реалі-зующий так званий приватний циклічний метод Якобі. У цьому методі анулюються всі елементи верхньої трикутної частини матриці А із застосуванням построчного вибору. При такому виборі індекси елементів apq пробігають послідовність значень (1, 2), (1, 3), ..., (1, п) \ (2, 3), (2, 4), ..., (2, і); ... ; (Л - 1, п). Потім починається новий цикл перебору елементів в тому ж порядку.
Емпірична оцінка трудомісткості процесу побудови матриці Л (А) методом jacobi дозволяє висловити необхідний час роботи процесора Т через розмірність п розв'язуваної задачі. Відомо, що для матриць до 50-го порядку і довжин машинних слів від 32 до 48 двійкових розрядів загальне число циклів в процесі обертань Якобі в середньому не перевищує 6-10 (під циклом розуміється будь-яка послідовність з (п2-- п) / 2 обертань ). При цьому T=kn3, де коефіцієнт до визначається швидкодією комп'ютера і приблизно дорівнює 40 / у, де ty - час виконання операції множення.
Отримана оцінка, а також досвід практичної роботи, показують, що при помірних значеннях п час реалізації оператора Л для багатьох практичних випадків невелика і порівнянно з часом однократного обчислення значення минимизируемого функціоналу. Згадуваний вище комбінація методу Хаусхолдера і QR-алгоритму виявляється приблизно в півтора-два рази швидше, що може мати значення тільки при достатньо великих п.
« Попередня Наступна »
= Перейти до змісту підручника =
Інформація, релевантна "10.3. Реалізація методів узагальненого покоординатного узвозу"
  1. Глава 10 покоординатного стратегії конечномерной оптимізації
    Глава 10 покоординатного стратегії конечномерной
  2. Зміст
    Передмова 1 Введення 7 Частина I. Методи прийняття рішень 19 Глава 1. Завдання прийняття рішень 21 Постановка задачі прийняття рішень. Критерійний мова опису вибору 21 Опис вибору на мові бінарних відносин. Формальні моделі задачі прийняття рішень 27 Зв'язок різних способів опису вибору. Однокритеріальних і багатокритерійний вибір 31 Функції вибору 36 Глава 2. Багатокритеріальні
  3. 11.2. Класичні градієнтні схеми
    Розглянемо деякі конкретні методи (11.2) і відповідають їм функції релаксації. Простий градієнтний спуск (ПГС). Формула методу + 1=xk __ const) Відповідна функція релаксації R (k)=1 - hk лінійна і представлена ??на рис. 11.2. ПГС має вигляд (11.12) (11.13) Рис. 11.2. Функція релаксації методу простого градієнтного спуску Нехай власні значення матриці Ак розташовані в замкнутому
  4. 10.1. Методи покоординатного спуску
    Нехай заданий функціонал J (x) ? Cx {Rn). Вирішується завдання побудови мінімізує послідовності {х *} для J (x). Часто використовуваний метод вирішення поставленого завдання полягає в застосуванні покоординатного стратегії дослідження простору пошуку. і / (Xj І X - min J ((10.1) У яружної ситуації цей метод можна застосовувати лише в рідкісних випадках орієнтації ярів уздовж координатних осей. Труднощі
  5. 5.6. СИНТЕЗ СИСТЕМ УПРАВЛІННЯ МЕТОДАМИ ОПТИМІЗАЦІЇ
    СИНТЕЗ СИСТЕМ УПРАВЛІННЯ МЕТОДАМИ БЕЗУМОВНОГО ОПТИМІЗАЦІЇ Сутність і область застосування Сутність безумовної оптимізації полягає в пошуку мінімуму функції Y=fix) шляхом багаторазових обчислень при різних значеннях параметрів х={хк}, к=0, 1, 2, .. ., причому на кожному к-і кроці обчислень контролюють виконання умов Лх (до +1)). Найбільше значення похідної показує напрямок
  6. Предметний покажчики
    r R-оптимальний елемент 29 А Абсолютна точність 236 Адаптація 255 Адаптируемость 231 Аксіоми 3.1 і 3.2 81 Алгоритми: GZ1 212, 225 jacobi 223 SPAC1 225,226 SPAC2 226 оптимізації 261 покоординатного спуску 233 Уїлкінсона і Райнша 223 Альтернатива 10 Антагоністична гра 83 Апарат нечіткої логіки 359 Апроксимація похідних кінцевими різницями 248 'Асиметрична долина "233 Атрибут 280 б База
  7. 11.4. Гірські види екстремального туризму
    Альпінізм - вважається самим екстремальним відпочинком. Сьогодні альпінізм являє собою цілу індустрію, яка рівномірно розвивається і популяризується. Як правило, для сходження прийнято вибирати літо, коли погода дозволяє з мінімальними втратами дістатися до наміченої вершини. Проте любителі гострих відчуттів не зупиняються і взимку, а складні погодні умови і сходи лавин тільки
  8. 9.1. Явище яружно
    У цьому розділі аналізуються часто виникають на практиці випадки отримання незадовільних результатів за допомогою стандартних методів конечномерной оптимізації, застосовуваних у задачах моделювання, чисельного експерименту та інших завдань системного аналізу (див. приклад про керованій системі другого порядку у Вступі). Як правило, це виражається в різкому збільшенні витрат машинного часу,
  9. 5.5 Монетарні цикли в узагальненій моделі Тобіна
    У розд. 3.3 ми вже говорили про модель Тобіна (див. також Тобін, 1965, 1969). Рівновага цієї системи нестійка. Ми переглянемо аналіз, даний Тобіном. Узагальнена модель, представлена ??в цьому розділі, належить Занг (1990Ь). Хоча модель, яку ми називаємо тут узагальненою моделлю Тобіна, схожа на модель Тобіна, сформульовану в розд. 3.3, вони вельми різняться в динаміці цін, властивостях
  10. 10.1. Історія розвитку гірськолижного туризму
    З початку 1930-х рр.. відкрилася нова ера в розвитку гірських лиж - вони стають популярним видом масового відпочинку і туризму. «Гірськолижний бум »був викликаний появою канатних доріг - підйомників. Де тільки не катаються сьогодні на гірських лижах! В Австрії та Франції, в США і Японії, в Новій Зеландії і на Філіппінах. Катаються на всіх материках: навіть в екваторіальній Африці. Наші гірськолижники відпочивають
  11. 10.6. Тестування алгоритмів оптимізації
    Основним підходом до порівняння алгоритмів з точки зору їх подальших додатків є тестування, тобто перевірка алгоритмів при вирішенні певного класу тестових завдань оптимізації, побудованих таким чином, щоб внести в процес оптимізації характерні труднощі, що виникають при вирішенні реальних завдань. Однак вибір класу тестових функціоналів, що підлягають мінімізації, ще не вирішує
  12.  3.8. Математичні методи планування
      При дослідженні систем управління повинні досліджуватися можливість застосування і відповідність застосовуваних методів умовам завдання управління. Застосування в попередніх планових дослідженнях математичних методів можливе за наявності формальних статистичних даних, необхідних обчислювальних засобів, високої кваліфікації дослідників. При математичному плануванні необхідно враховувати
  13.  8.6. Деякі стандартні схеми оптимізації
      На основі зроблених раніше зауважень залежно від реальної ситуації можуть формуватися різні обчислювальні схеми оптимізації-ції. Нижче розглянуті деякі варіанти таких схем, що охоплюють значне число практичних завдань. Завдання апроксимації. У великому числі випадків завдання оптимізації деякої системи полягає в реалізації заданої залежності деякої величини W від безперервної
  14.  Поняття методу бухгалтерського обліку, як сукупності способів і прийомів обліку
      Для вивчення предмета бухгалтерського обліку необхідно використовувати певний набір прийомів і способів. Сукупність використовуваних прийомів і способів з метою ведення бухгалтерського обліку називають методом бухгалтерського обліку. Метод бухгалтерського обліку складається з наступних елементів: балансове узагальнення; документування, інвентаризація; вартісна оцінка; калькуляція; рахунки і подвійний запис;
  15.  11.3. Методи з експоненційної функцією релаксації
      Досліджувані в цьому розділі методи можуть бути побудовані за принципом "безперервних методів" із загальної теорії чисельного інтегрування жорстких систем звичайних диференціальних рівнянь за допомогою спеціальних "системних" алгоритмів чисельного інтегрування [32]. У даний роботі використаний інший підхід до побудови алгоритмів, заснований на понятті функції релаксації. Виходячи з викладених раніше
  16.  Бухгалтерське узагальнення, система рахунків і подвійний запис
      Бухгалтерське узагальнення, система рахунків і подвійний
  17.  Гіпотетико-дедуктивний метод
      - Спосіб побудови наукової теорії, заснований на упорядкуванні та систематизації наукового знання. Являє собою встановлення та аналіз наявних фактів, їх найпростіших індуктивних узагальнень і виявлення емпіричних законів. Використовується в більшості емпіричних наук, таких як біологія, демографія, історія та
  18.  4.1Балансовое узагальнення. Бухгалтерський баланс, його структура
      Метод балансу широко застосовується в економіці. У бухгалтерському обліку метод балансу застосовується для виявлення фінансового становища організації шляхом двоїстої угруповання об'єктів бухгалтерського спостереження відповідно з балансовим рівнянням: Активи=Власний капітал + Зобов'язання 22 У лівій частині балансу (активи) групують майно організації, в правій частині (пасиви) - джерела

bibyurecon.ml
енциклопедія  пікантні  перлова  кавово-вершковий  риба