Niniejszy skrypt jest przeznaczony dla studentów I i II stopnia Wydziału Elektrycznego Politechniki Warszawskiej do przedmiotów „metody optymalizacji” i „teoria optymalizacji”. Może być również wykorzystywany przez studentów innych wydziałów i innych uczelni oraz przez słuchaczy studiów doktoranckich. Jego celem jest przedstawienie w przystępnej formie podstawowych metod optymalizacji, zarówno statycznej jak i dynamicznej. Duża liczba całkowicie rozwiązanych prostych przykładów umożliwia czytelnikowi zrozumienie szczegółów omawianych metod. Świadomie zrezygnowano w skrypcie z omawiania zaawansowanych metod optymalizacji, takich jak algorytmy genetyczne, algorytmy mrówkowe i algorytmy roju (PSO – Partical Swarm Optimization), obecnie od kilku lat intensywnie rozwijanych i stosowanych w bardziej złożonych problemach. Nie omówiono też sposobów podejścia do wielu zadań spotykanych w praktyce optymalizacyjnej – zadań o bardzo wielu zmiennych (setki i tysiące), mających liczne ekstrema lokalne. Celem skryptu jest bowiem przystępne przedstawienie podstaw metod optymalizacji.

Ponieważ praktyczne zadania optymalizacji mogą być rozwiązywane niemal wyłącznie przy zastosowaniu programów komputerowych, zwrócono uwagę na niektóre problemy występujące w obliczeniach numerycznych. Podano też przykłady zastosowań wybranych programów, np. MATLAB, a także załączono na płytce CD wybrane programy do obliczeń przykładów z optymalizacji statycznej – zarówno liniowej, jak i nieliniowej. Programy te – działające na komputerach osobistych w systemie operacyjnym Windows – służą wyłącznie celom dydaktycznym i nie mogą być stosowane do celów komercyjnych ani publikowane bez zgody autora i wydawnictwa. Autor i wydawnictwo nie ponoszą żadnej odpowiedzialności za poprawne działanie programów – służą one wyłącznie ilustracji metod omawianych w skrypcie, niemniej jednak wszelkie uwagi na temat działania tych programów będą przyjęte z wdzięcznością.

Spis treści

1. WPROWADZENIE

2. OPTYMALIZACJA STATYCZNA LINIOWA

   1. Podejście ogólne

   2. Metoda simpleksów

   3. Zagadnienia dualne

3. OPTYMALIZACJA STATYCZNA NIELINIOWA

   1. Metody bezgradientowe optymalizacji bez ograniczeń

      1. Metoda Hooke’a – Jeevesa

      2. Metoda Gaussa – Seidla

      3. Metoda Powella

   2. Metody gradientowe optymalizacji bez ograniczeń

      1. Metoda gradientu prostego

      2. Metoda najszybszego spadku

      3. Metoda Newtona

      4. Metoda gradientu sprzężonego

   3. Poszukiwanie minimum w kierunku

      1. Metody bezgradientowe poszukiwania minimum w kierunku

      2. Metody gradientowe poszukiwania minimum w kierunku

   4. Metody optymalizacji statycznej nieliniowej z ograniczeniami

      1. Metoda mnożników Lagrange’a

      2. Warunki Kuhna – Hackera

      3. Programowanie kwadratowe

      4. Algorytmy numeryczne optymalizacji z ograniczeniami

4. OPTYMALIZACJA DYNAMICZNA

   1. Metody klasyczne – rachunek wariacyjny

   2. Zasada maximum

   3. Programowanie dynamiczne

5. OPTYMALIZACJA LOGISTYCZNA – UNIFIKACYJNA

Dodatek –Repetytorium podstaw matematycznych optymalizacji

D.1. Własności zbiorów

D.2. Wektory i macierze

D.3. Przestrzenie euklidesowe

D.4. Funkcje wektorowe

D.5. Przestrzenie funkcyjne

D.6. Równania różniczkowe

D.7. Równania algebraiczne