
В качестве начального приближения выбирается 
  
 . По вычисленной на каждой итерации точке xk строится (k + 1)-я точка xk+1:
  
В качестве
  
выбирается любое число из 
 
= 
 
, удовлетворяющее неравенству:
  
Доказана сходимость этого метода при весьма нежестких ограничениях на функцию f (выпуклость) и множество ограничений X (выпуклость и замкнутость).
  Обычно считается, что оптимальным является такое возможное решение, которое наиболее полно удовлетворяет желаниям, интересам или целям ЛПР. Стремление ЛПР достичь определенной цели нередко удается в математических терминах выразить в виде максимизации (или минимизации) некоторой числовой функции, заданной на множестве 
  
. Однако в более сложных ситуациях приходится иметь дело не с одной, а сразу с несколькими такими функциями. Так будет, например, когда какое-то явление, объект или процесс рассматривается с различных точек зрения и для формализации каждой точки зрения используется соответствующая функция. Если явление рассматривается в динамике, поэтапно и для оценки каждого этапа приходится вводить отдельную функцию, - в этом случае также приходится учитывать несколько функциональных показателей.
Нижеследующее рассмотрение посвящено ситуации, когда имеется несколько числовых функций 
  
, 
  ³
³ 
, определенных на множестве 
 
. В зависимости от содержания задачи выбора эти функции называют 
критериями оптимальности, 
критериями эффективности, 
целевыми функциями, 
показателями или 
критериями качества.
Проиллюстрируем введенные термины, рассмотрев задачу выбора наилучшего проектного решения. В этой задаче множество 
  
 состоит из нескольких конкурсных проектов (например, строительства нового предприятия), а критериями оптимальности могут служить стоимость реализации проекта 
 
 и величина прибыли 
 
, которую обеспечит данное проектное решение (т.е. построенное предприятие). Если ограничить рассмотрение данной задачи лишь одним критерием оптимальности, практическая значимость решения такой задачи окажется незначительной. В самом деле, при использовании только первого критерия будет выбран самый дешевый проект, но его реализация может привести к недопустимо малой прибыли. С другой стороны, на строительство самого прибыльного проекта, выбранного на основе второго критерия оптимальности, может просто не хватить имеющихся средств. Поэтому в данной задаче необходимо учитывать оба указанных критерия одновременно. Если же дополнительно стараться минимизировать нежелательные экологические последствия строительства и функционирования предприятия, то к двум указанным следует добавить еще один – третий критерий и т.д. Что касается ЛПР, осуществляющего выбор проекта, то в данной задаче таковым является глава администрации района, на территории которого будет построено предприятие, при условии, что это предприятие является государственным. Если же предприятие – частное, то в качестве ЛПР выступает глава соответствующей фирмы.
Указанные выше числовые функции 
  
 образуют 
векторный критерий  
, (27)
который принимает значения в 
  
-мерном арифметическом пространстве 
 
. Это пространство называют 
критериальным пространством или 
пространством оценок, а всякое значение 
  
  
 
 векторного критерия 
 
 при определенном 
 
 именуют 
векторной оценкой возможного решения 
 
. Все векторные оценки образуют в пространстве 
  множество возможных оценок
множество возможных оценок   
  при некотором
 при некотором  
.
Задачу выбора, содержащую множество возможных решений 
  
 и векторный критерий 
 
, обычно называют 
многокритериальной задачей.
Предположим, что данные компоненты задачи выбора сформированы, четко описаны и зафиксированы. Опыт показывает, что в терминах критерия 
  
 чаще всего не удается выразить всю гамму «пристрастий», «вкусов» и предпочтений данного ЛПР. С помощью векторного критерия лишь намечаются определенные цели, которые нередко оказываются весьма противоречивыми. Эти цели одновременно, как правило, достигнуты быть не могут, и поэтому требуется определенная дополнительная информация для осуществления компромисса. Иначе говоря, если ограничиться лишь указанными выше двумя компонентами – множеством возможных решений и векторным критерием, то задача выбора оказывается «недоопределенной». Эта «недоопределенность» сказывается затем в слабой логической обоснованности выбора оптимального решения на основе векторного критерия. Многочисленные процедуры выбора (процедуры построения множества 
 
), предлагаемые в литературе по принятию решений, основанные лишь на знании векторного критерия, как правило, содержат элементы эвристики, и потому не имеют строгого логического обоснования.
Для того чтобы осуществить обоснованный выбор, следует помимо векторного критерия располагать какими-то дополнительными сведениями о предпочтениях ЛПР. С этой целью необходимо включить в многокритериальную задачу еще один элемент, который позволил бы выразить и описать эти предпочтения.
 Рассмотрим два возможных решения 
  
 и 
 
. Предположим, что после предъявления ЛПР этой пары решений, оно выбирает (отдает предпочтение) первому из них. В этом случае пишут
  
.
Знак 
  
 служит для обозначений предпочтений данного ЛПР и называется 
отношением строгого предпочтения, или короче – 
отношением предпочтения.
Следует отметить, что не всякие два возможных решения 
  
 и 
 
 связаны соотношением 
 
, либо соотношением 
 
. Иначе говоря, не из любой пары решений ЛПР может сделать окончательный выбор. Вполне могут существовать такие пары, что ЛПР не в состоянии отдать предпочтение какому-то одному решению этой пары, даже если это - пара различных решений.
Описанная ситуация вполне соответствует реальному положению вещей. Более того, если бы от ЛПР требовалась способность в произвольной паре возможных решений уметь определять решение, более предпочтительное по сравнению с другим, то в таком случае теория, построенная на указанном «жестком» требовании к ЛПР не представляла бы практического интереса. Подобные «всемогущие» ЛПР в жизни встречаются крайне редко!
 Предположим, что ЛПР в процессе выбора ведет себя «достаточно разумно» и обсудим требования, которым в таком случае должно удовлетворять его отношение предпочтения.
 Прежде всего, следует напомнить, что отношение предпочтения 
  
 по своей сути является отношением 
строгого предпочтения в том смысле, что выполнение соотношения 
 
 невозможно ни для какого возможного решения 
 
, поскольку ни одно решение не может быть лучше самого себя.