chiark / gitweb /
added COBYLA algorithm
authorstevenj <stevenj@alum.mit.edu>
Fri, 29 Aug 2008 03:12:33 +0000 (23:12 -0400)
committerstevenj <stevenj@alum.mit.edu>
Fri, 29 Aug 2008 03:12:33 +0000 (23:12 -0400)
darcs-hash:20080829031233-c8de0-01084bb786152749b2b8324fa7f549b5bc49e37a.gz

15 files changed:
Makefile.am
api/Makefile.am
api/nlopt.c
api/nlopt.h
api/nlopt_minimize.3
api/nlopt_minimize_constrained.3
cobyla/COPYRIGHT [new file with mode: 0644]
cobyla/Makefile.am [new file with mode: 0644]
cobyla/README [new file with mode: 0644]
cobyla/README.orig [new file with mode: 0644]
cobyla/cobyla.c [new file with mode: 0644]
cobyla/cobyla.h [new file with mode: 0644]
configure.ac
octave/Makefile.am
octave/NLOPT_LN_COBYLA.m [new file with mode: 0644]

index 4bfe81591f380db5c9030876bda4da5d52b1f49e..d716f6457d167be25eea2a5d497a57b81f2e0ff5 100644 (file)
@@ -8,7 +8,7 @@ CXX_DIRS = stogo
 CXX_LIBS = stogo/libstogo.la
 endif
 
 CXX_LIBS = stogo/libstogo.la
 endif
 
-SUBDIRS= util subplex direct cdirect $(CXX_DIRS) praxis luksan crs mlsl mma lbfgs api . octave test
+SUBDIRS= util subplex direct cdirect $(CXX_DIRS) praxis luksan crs mlsl mma cobyla lbfgs api . octave test
 EXTRA_DIST=COPYRIGHT autogen.sh nlopt.pc.in m4
 
 if WITH_NOCEDAL
 EXTRA_DIST=COPYRIGHT autogen.sh nlopt.pc.in m4
 
 if WITH_NOCEDAL
@@ -19,7 +19,7 @@ libnlopt@NLOPT_SUFFIX@_la_SOURCES =
 libnlopt@NLOPT_SUFFIX@_la_LIBADD = subplex/libsubplex.la               \
 direct/libdirect.la cdirect/libcdirect.la $(CXX_LIBS)                  \
 praxis/libpraxis.la $(NOCEDAL_LBFGS) luksan/libluksan.la crs/libcrs.la \
 libnlopt@NLOPT_SUFFIX@_la_LIBADD = subplex/libsubplex.la               \
 direct/libdirect.la cdirect/libcdirect.la $(CXX_LIBS)                  \
 praxis/libpraxis.la $(NOCEDAL_LBFGS) luksan/libluksan.la crs/libcrs.la \
-mlsl/libmlsl.la mma/libmma.la api/libapi.la util/libutil.la
+mlsl/libmlsl.la mma/libmma.la cobyla/libcobyla.la api/libapi.la util/libutil.la
 
 libnlopt@NLOPT_SUFFIX@_la_LDFLAGS = -no-undefined -version-info @SHARED_VERSION_INFO@
 
 
 libnlopt@NLOPT_SUFFIX@_la_LDFLAGS = -no-undefined -version-info @SHARED_VERSION_INFO@
 
index 87b20a52fd149b01a2bf4e041a3a96bc2318c5a1..f22a0b583774cb5031eff7ce22e472ec797a0861 100644 (file)
@@ -1,4 +1,4 @@
-AM_CPPFLAGS = -I$(top_srcdir)/cdirect -I$(top_srcdir)/direct -I$(top_srcdir)/stogo -I$(top_srcdir)/subplex -I$(top_srcdir)/praxis -I$(top_srcdir)/lbfgs -I$(top_srcdir)/luksan -I$(top_srcdir)/crs -I$(top_srcdir)/mlsl -I$(top_srcdir)/mma -I$(top_srcdir)/util
+AM_CPPFLAGS = -I$(top_srcdir)/cdirect -I$(top_srcdir)/direct -I$(top_srcdir)/stogo -I$(top_srcdir)/subplex -I$(top_srcdir)/praxis -I$(top_srcdir)/lbfgs -I$(top_srcdir)/luksan -I$(top_srcdir)/crs -I$(top_srcdir)/mlsl -I$(top_srcdir)/mma -I$(top_srcdir)/cobyla -I$(top_srcdir)/util
 
 include_HEADERS = nlopt.h
 noinst_LTLIBRARIES = libapi.la
 
 include_HEADERS = nlopt.h
 noinst_LTLIBRARIES = libapi.la
index cd3d495b69473a182d8b60f9c82d9d1536f78008..0d35d586e36ea060720387aa1ca6b28fd8d1a5d9 100644 (file)
@@ -98,7 +98,8 @@ static const char nlopt_algorithm_names[NLOPT_NUM_ALGORITHMS][256] = {
      "Multi-level single-linkage (MLSL), random (global, derivative)",
      "Multi-level single-linkage (MLSL), quasi-random (global, no-derivative)",
      "Multi-level single-linkage (MLSL), quasi-random (global, derivative)",
      "Multi-level single-linkage (MLSL), random (global, derivative)",
      "Multi-level single-linkage (MLSL), quasi-random (global, no-derivative)",
      "Multi-level single-linkage (MLSL), quasi-random (global, derivative)",
-     "Method of Moving Asymptotes (MMA) (local, derivative)"
+     "Method of Moving Asymptotes (MMA) (local, derivative)",
+     "COBYLA (Constrained Optimization BY Linear Approximations) (local, no-derivative)"
 };
 
 const char *nlopt_algorithm_name(nlopt_algorithm a)
 };
 
 const char *nlopt_algorithm_name(nlopt_algorithm a)
@@ -173,6 +174,7 @@ static double f_direct(int n, const double *x, int *undefined, void *data_)
 
 #include "mlsl.h"
 #include "mma.h"
 
 #include "mlsl.h"
 #include "mma.h"
+#include "cobyla.h"
 
 /*************************************************************************/
 
 
 /*************************************************************************/
 
@@ -234,8 +236,9 @@ static nlopt_result nlopt_minimize_(
      else if (n < 0 || !lb || !ub || !x)
          return NLOPT_INVALID_ARGS;
 
      else if (n < 0 || !lb || !ub || !x)
          return NLOPT_INVALID_ARGS;
 
-     /* nonlinear constraints are only supported with MMA */
-     if (m != 0 && algorithm != NLOPT_LD_MMA) return NLOPT_INVALID_ARGS;
+     /* nonlinear constraints are only supported with MMA or COBYLA */
+     if (m != 0 && algorithm != NLOPT_LD_MMA && algorithm != NLOPT_LN_COBYLA) 
+         return NLOPT_INVALID_ARGS;
 
      d.f = f;
      d.f_data = f_data;
 
      d.f = f;
      d.f_data = f_data;
@@ -440,6 +443,28 @@ static nlopt_result nlopt_minimize_(
                                  lb, ub, x, minf, &stop,
                                  local_search_alg_deriv, 1e-12, 100000);
 
                                  lb, ub, x, minf, &stop,
                                  local_search_alg_deriv, 1e-12, 100000);
 
+        case NLOPT_LN_COBYLA: {
+             /* crude heuristics for initial step */
+             double rhobegin = HUGE_VAL;
+             for (i = 0; i < n; ++i) {
+                  if (!nlopt_isinf(ub[i]) && !nlopt_isinf(lb[i])
+                       && (ub[i] - lb[i]) * 0.25 < rhobegin && ub[i] != lb[i])
+                       rhobegin = (ub[i] - lb[i]) * 0.25;
+             }
+             if (nlopt_isinf(rhobegin)) {
+                  rhobegin = 0;
+                  for (i = 0; i < n; ++i)
+                       if (fabs(x[i]) * 0.25 > rhobegin)
+                            rhobegin = fabs(x[i]) * 0.25;
+                  if (rhobegin == 0)
+                       rhobegin = 1;
+             }
+             
+             return cobyla_minimize(n, f, f_data, 
+                                    m, fc, fc_data, fc_datum_size,
+                                    lb, ub, x, minf, &stop, rhobegin);
+        }
+
         default:
              return NLOPT_INVALID_ARGS;
      }
         default:
              return NLOPT_INVALID_ARGS;
      }
index 14e00cf2db8a0e30849235d8559f0cafffa13e11..a7871ff25932a53d033d5a57ea95ca7b7ccad808 100644 (file)
@@ -85,6 +85,8 @@ typedef enum {
 
      NLOPT_LD_MMA,
 
 
      NLOPT_LD_MMA,
 
+     NLOPT_LN_COBYLA,
+
      NLOPT_NUM_ALGORITHMS /* not an algorithm, just the number of them */
 } nlopt_algorithm;
 
      NLOPT_NUM_ALGORITHMS /* not an algorithm, just the number of them */
 } nlopt_algorithm;
 
index e8b5995aedbbf68ce996a514127f54814d87dba5..0111933f0132d97dac1faddf1f43de716c8668df 100644 (file)
@@ -322,6 +322,17 @@ and also supports an arbitrary number (\fIm\fR) of nonlinear constraints
 via the
 .BR nlopt_minimize_constrained ()
 function.
 via the
 .BR nlopt_minimize_constrained ()
 function.
+.TP
+.B NLOPT_LN_COBYLA
+Local (L) derivative-free (N) optimization using the COBYLA algorithm
+of Powell (Constrained Optimization BY Linear Approximations).
+The
+.B NLOPT_LD_COBYLA
+algorithm supports both bound-constrained and unconstrained optimization,
+and also supports an arbitrary number (\fIm\fR) of nonlinear constraints
+via the
+.BR nlopt_minimize_constrained ()
+function.
 .SH STOPPING CRITERIA
 Multiple stopping criteria for the optimization are supported, as
 specified by the following arguments to
 .SH STOPPING CRITERIA
 Multiple stopping criteria for the optimization are supported, as
 specified by the following arguments to
index daf68b4bff4c7219e085eb46b97ca9724a298ffa..e26455b908c50f8d39475021ab7f0edf99cae511 100644 (file)
@@ -196,7 +196,9 @@ is any nonnegative integer.  However, nonzero
 .I m
 is currently only supported by the
 .B NLOPT_LD_MMA
 .I m
 is currently only supported by the
 .B NLOPT_LD_MMA
-algorithm below.
+and
+.B NLOPT_LN_COBYLA
+algorithms below.
 .sp
 In particular, the nonlinear constraints are of the form 
 \fIfc\fR(\fIx\fR) <= 0, where the function
 .sp
 In particular, the nonlinear constraints are of the form 
 \fIfc\fR(\fIx\fR) <= 0, where the function
@@ -415,6 +417,15 @@ implementation of Svanberg's algorithm.)  The
 algorithm supports both bound-constrained and unconstrained optimization,
 and also supports an arbitrary number (\fIm\fR) of nonlinear constraints
 as described above.
 algorithm supports both bound-constrained and unconstrained optimization,
 and also supports an arbitrary number (\fIm\fR) of nonlinear constraints
 as described above.
+.TP
+.B NLOPT_LN_COBYLA
+Local (L) derivative-free (N) optimization using the COBYLA algorithm
+of Powell (Constrained Optimization BY Linear Approximations).
+The
+.B NLOPT_LD_COBYLA
+algorithm supports both bound-constrained and unconstrained optimization,
+and also supports an arbitrary number (\fIm\fR) of nonlinear constraints
+as described above.
 .SH STOPPING CRITERIA
 Multiple stopping criteria for the optimization are supported, as
 specified by the following arguments to
 .SH STOPPING CRITERIA
 Multiple stopping criteria for the optimization are supported, as
 specified by the following arguments to
diff --git a/cobyla/COPYRIGHT b/cobyla/COPYRIGHT
new file mode 100644 (file)
index 0000000..f5e0d95
--- /dev/null
@@ -0,0 +1,22 @@
+Copyright (c) 1992, Michael J. D. Powell (M.J.D.Powell@damtp.cam.ac.uk)
+Copyright (c) 2004, Jean-Sebastien Roy (js@jeannot.org)
+Copyright (c) 2008, Steven G. Johnson (stevenj@alum.mit.edu)
+
+Permission is hereby granted, free of charge, to any person obtaining a
+copy of this software and associated documentation files (the
+"Software"), to deal in the Software without restriction, including
+without limitation the rights to use, copy, modify, merge, publish,
+distribute, sublicense, and/or sell copies of the Software, and to
+permit persons to whom the Software is furnished to do so, subject to
+the following conditions:
+
+The above copyright notice and this permission notice shall be included
+in all copies or substantial portions of the Software.
+
+THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS
+OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
+MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.
+IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY
+CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT,
+TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE
+SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
diff --git a/cobyla/Makefile.am b/cobyla/Makefile.am
new file mode 100644 (file)
index 0000000..2c5752a
--- /dev/null
@@ -0,0 +1,6 @@
+AM_CPPFLAGS = -I$(top_srcdir)/util -I$(top_srcdir)/api
+
+noinst_LTLIBRARIES = libcobyla.la
+libcobyla_la_SOURCES = cobyla.c cobyla.h
+
+EXTRA_DIST = README COPYRIGHT README.orig
diff --git a/cobyla/README b/cobyla/README
new file mode 100644 (file)
index 0000000..b9f86aa
--- /dev/null
@@ -0,0 +1,31 @@
+This code implements COBYLA (Constrained Optimization BY Linear
+Approximations) algorithm derivative free optimization with nonlinear
+inequality constraints by M. J. D. Powell, described by:
+
+       M. J. D. Powell, "A direct search optimization method that
+       models the objective and constraint functions by linear
+       interpolation," in Advances in Optimization and Numerical
+       Analysis, eds. S. Gomez and J.-P. Hennart (Kluwer Academic:
+       Dordrecht, 1994), p. 51-67.
+
+and reviewed in:
+
+       M. J. D. Powell, "Direct search algorithms for optimization
+       calculations," Acta Numerica 7, 287-336 (1998).
+
+It constructs successive linear approximations of the objective
+function and constraints via a simplex of n+1 points (in n
+dimensions), and optimizes these approximations in a trust region at
+each step.
+
+The original code itself was written in Fortran by Powell, and
+apparently released without restrictions (like several of his other
+programs), and was converted to C in 2004 by Jean-Sebastien Roy
+(js@jeannot.org) for the SciPy project.  The C version was released
+under the attached license (basically the MIT license) at:
+       http://www.jeannot.org/~js/code/index.en.html#COBYLA
+
+It was incorporated into NLopt in 2008 by S. G. Johnson, and kept under
+the same MIT license.  In incorporating it into NLopt, SGJ adapted it
+to include the NLopt stopping conditions (the original code provided
+an x tolerance and a maximum number of function evaluations only).
diff --git a/cobyla/README.orig b/cobyla/README.orig
new file mode 100644 (file)
index 0000000..09ead81
--- /dev/null
@@ -0,0 +1,74 @@
+# COBYLA : constrained optimization by linear approximation
+# Version 1.1
+# Copyright (c) 1992, Michael J. D. Powell (M.J.D.Powell@damtp.cam.ac.uk)
+# Copyright (c) 2004, J.S. Roy (js@jeannot.org)
+# See the LICENSE file for copyright information.
+# $Jeannot: README,v 1.7 2004/04/18 14:04:20 js Exp $
+
+This software is a C version of COBYLA2, a contrained optimization by linear
+approximation package developed by Michael J. D. Powell in Fortran.
+
+The original source code can be found at :
+http://plato.la.asu.edu/topics/problems/nlores.html
+
+Reference article for the method: Powell, J.M.D. (1992), "A Direct Search
+Optimization Method that Models the Objective and Constraint Functions by Linear
+Interpolation", DAMTP/NA5, Cambridge, England.
+
+This package was initially built by J.S. Roy to ease integration into SciPy.
+See: http://www.scipy.org/
+Many thanks to Michael J. D. Powell for allowing this to happen !
+
+This software, a derivative free non-linear optimizer, aims at minimizing the
+value of a nonlinear function subject to nonlinear constraints. It requires to
+be able to evaluate the function and the value of the constraints.
+
+COBYLA will try to make all the values of the constraints positive.
+So if you want to input a constraint j such as variable x[i] <= MAX, set:
+  constraint[j] = MAX - x[i]
+
+See the comments in cobyla.c for more details.
+
+This software has been converted from the Fortran into C and provides the
+following modifications :
+- reentrancy, no global variables or functions ;
+- ability to pass a pointer to the function to be optimized (to provide
+  access to constants) ;
+- ability to end the minimization at any time ;
+And other small changes.
+
+The last version (and other software) is avalaible at the URL :
+http://www.jeannot.org/~js/code/index.en.html
+
+A Python interface module is also provided.
+
+Contents :
+- cobyla.c : Source
+- cobyla.h : Header, and API documentation
+- LICENSE : License and copyright information
+- HISTORY : Release history
+- README : This file
+- example.c : A simple example
+- Makefile : Make file used to build the examples
+- moduleCobyla.c : the source of the python module
+- cobyla.py : the python module wrapper
+- example.py : an example for the python module
+- setup.py : the python installer
+
+Use is described in cobyla.h. For more information, see the example.
+The example can be built and executed by doing :
+  make test
+
+You may need to adjust the Makefile before building cobyla.
+
+To install the module in the current directory, use:
+ python setup.py build_ext --inplace
+To test it, execute:
+  python cobyla.py
+To install it globaly, use:
+ python setup.py install
+
+If you make use of this software, or if you make modifications to it (for a
+specific platform for example), you are encouraged to contact the author of
+this Fortran to C conversion at the following email : js@jeannot.org
+Thanks !
diff --git a/cobyla/cobyla.c b/cobyla/cobyla.c
new file mode 100644 (file)
index 0000000..d3d1db1
--- /dev/null
@@ -0,0 +1,1612 @@
+/* cobyla : contrained optimization by linear approximation */
+
+/*
+ * Copyright (c) 1992, Michael J. D. Powell (M.J.D.Powell@damtp.cam.ac.uk)
+ * Copyright (c) 2004, Jean-Sebastien Roy (js@jeannot.org)
+ * 
+ * Permission is hereby granted, free of charge, to any person obtaining a
+ * copy of this software and associated documentation files (the
+ * "Software"), to deal in the Software without restriction, including
+ * without limitation the rights to use, copy, modify, merge, publish,
+ * distribute, sublicense, and/or sell copies of the Software, and to
+ * permit persons to whom the Software is furnished to do so, subject to
+ * the following conditions:
+ * 
+ * The above copyright notice and this permission notice shall be included
+ * in all copies or substantial portions of the Software.
+ * 
+ * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS
+ * OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
+ * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.
+ * IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY
+ * CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT,
+ * TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE
+ * SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
+ */
+
+/*
+ * This software is a C version of COBYLA2, a contrained optimization by linear
+ * approximation package developed by Michael J. D. Powell in Fortran.
+ * 
+ * The original source code can be found at :
+ * http://plato.la.asu.edu/topics/problems/nlores.html
+ */
+
+static char const rcsid[] =
+  "@(#) $Jeannot: cobyla.c,v 1.11 2004/04/18 09:51:36 js Exp $";
+
+#include <stdlib.h>
+#include <stdio.h>
+#include <math.h>
+
+#include "cobyla.h"
+
+#define min(a,b) ((a) <= (b) ? (a) : (b))
+#define max(a,b) ((a) >= (b) ? (a) : (b))
+#define abs(x) ((x) >= 0 ? (x) : -(x))
+
+/**************************************************************************/
+/* SGJ, 2008: NLopt-style interface function: */
+
+typedef struct {
+     nlopt_func f;
+     void *f_data;
+     int m_orig;
+     nlopt_func fc;
+     char *fc_data;
+     ptrdiff_t fc_datum_size;
+     double *xtmp;
+     const double *lb, *ub;
+} func_wrap_state;
+
+static int func_wrap(int n, int m, double *x, double *f, double *con,
+                    void *state)
+{
+     int i, j;
+     func_wrap_state *s = (func_wrap_state *) state;
+     double *xtmp = s->xtmp;
+     const double *lb = s->lb, *ub = s->ub;
+
+     /* in nlopt, we guarante that the function is never evaluated outside
+       the lb and ub bounds, so we need force this with xtmp */
+     for (j = 0; j < n; ++j) {
+         if (x[j] < lb[j]) xtmp[j] = lb[j];
+         else if (x[j] > ub[j]) xtmp[j] = ub[j];
+         else xtmp[j] = x[j];
+     }
+
+     *f = s->f(n, xtmp, NULL, s->f_data);
+     for (i = 0; i < s->m_orig; ++i)
+         con[i] = -s->fc(n, xtmp, NULL, s->fc_data + i * s->fc_datum_size);
+     for (j = 0; j < n; ++j) {
+         if (!nlopt_isinf(lb[j]))
+              con[i++] = x[j] - lb[j];
+         if (!nlopt_isinf(ub[j]))
+              con[i++] = ub[j] - x[j];
+     }
+     if (m != i) return 1; /* ... bug?? */
+     return 0;
+}
+
+nlopt_result cobyla_minimize(int n, nlopt_func f, void *f_data,
+                            int m, nlopt_func fc,
+                            void *fc_data_, ptrdiff_t fc_datum_size,
+                            const double *lb, const double *ub, /* bounds */
+                            double *x, /* in: initial guess, out: minimizer */
+                            double *minf,
+                            nlopt_stopping *stop,
+                            double rhobegin)
+{
+     int j;
+     func_wrap_state s;
+     nlopt_result ret;
+
+     s.f = f; s.f_data = f_data;
+     s.m_orig = m;
+     s.fc = fc; s.fc_data = (char*) fc_data_; s.fc_datum_size = fc_datum_size;
+     s.lb = lb; s.ub = ub;
+     s.xtmp = (double *) malloc(sizeof(double) * n);
+     if (!s.xtmp) return NLOPT_OUT_OF_MEMORY;
+
+     /* add constraints for lower/upper bounds (if any) */
+     for (j = 0; j < n; ++j) {
+         if (!nlopt_isinf(lb[j]))
+              ++m;
+         if (!nlopt_isinf(ub[j]))
+              ++m;
+     }
+
+     ret = cobyla(n, m, x, minf, rhobegin, stop, COBYLA_MSG_NONE, 
+                 func_wrap, &s);
+
+     free(s.xtmp);
+     return ret;
+}
+
+/**************************************************************************/
+
+static nlopt_result cobylb(int *n, int *m, int *mpp, double *x, double *minf, double *rhobeg,
+  nlopt_stopping *stop, int *iprint, double *con, double *sim,
+  double *simi, double *datmat, double *a, double *vsig, double *veta,
+  double *sigbar, double *dx, double *w, int *iact, cobyla_function *calcfc,
+  void *state);
+static void trstlp(int *n, int *m, double *a, double *b, double *rho,
+  double *dx, int *ifull, int *iact, double *z__, double *zdota, double *vmultc,
+  double *sdirn, double *dxnew, double *vmultd);
+
+/* ------------------------------------------------------------------------ */
+
+nlopt_result cobyla(int n, int m, double *x, double *minf, double rhobeg, nlopt_stopping *stop, int iprint,
+  cobyla_function *calcfc, void *state)
+{
+  int icon, isim, isigb, idatm, iveta, isimi, ivsig, iwork, ia, idx, mpp;
+  int *iact;
+  double *w;
+  nlopt_result rc;
+
+/*
+ * This subroutine minimizes an objective function F(X) subject to M
+ * inequality constraints on X, where X is a vector of variables that has 
+ * N components. The algorithm employs linear approximations to the 
+ * objective and constraint functions, the approximations being formed by 
+ * linear interpolation at N+1 points in the space of the variables. 
+ * We regard these interpolation points as vertices of a simplex. The 
+ * parameter RHO controls the size of the simplex and it is reduced 
+ * automatically from RHOBEG to RHOEND. For each RHO the subroutine tries 
+ * to achieve a good vector of variables for the current size, and then 
+ * RHO is reduced until the value RHOEND is reached. Therefore RHOBEG and 
+ * RHOEND should be set to reasonable initial changes to and the required 
+ * accuracy in the variables respectively, but this accuracy should be 
+ * viewed as a subject for experimentation because it is not guaranteed. 
+ * The subroutine has an advantage over many of its competitors, however, 
+ * which is that it treats each constraint individually when calculating 
+ * a change to the variables, instead of lumping the constraints together 
+ * into a single penalty function. The name of the subroutine is derived 
+ * from the phrase Constrained Optimization BY Linear Approximations. 
+ *
+ * The user must set the values of N, M, RHOBEG and RHOEND, and must 
+ * provide an initial vector of variables in X. Further, the value of 
+ * IPRINT should be set to 0, 1, 2 or 3, which controls the amount of 
+ * printing during the calculation. Specifically, there is no output if 
+ * IPRINT=0 and there is output only at the end of the calculation if 
+ * IPRINT=1. Otherwise each new value of RHO and SIGMA is printed. 
+ * Further, the vector of variables and some function information are 
+ * given either when RHO is reduced or when each new value of F(X) is 
+ * computed in the cases IPRINT=2 or IPRINT=3 respectively. Here SIGMA 
+ * is a penalty parameter, it being assumed that a change to X is an 
+ * improvement if it reduces the merit function 
+ *      F(X)+SIGMA*MAX(0.0,-C1(X),-C2(X),...,-CM(X)), 
+ * where C1,C2,...,CM denote the constraint functions that should become 
+ * nonnegative eventually, at least to the precision of RHOEND. In the 
+ * printed output the displayed term that is multiplied by SIGMA is 
+ * called MAXCV, which stands for 'MAXimum Constraint Violation'. The 
+ * argument MAXFUN is an int variable that must be set by the user to a 
+ * limit on the number of calls of CALCFC, the purpose of this routine being 
+ * given below. The value of MAXFUN will be altered to the number of calls 
+ * of CALCFC that are made. The arguments W and IACT provide real and 
+ * int arrays that are used as working space. Their lengths must be at 
+ * least N*(3*N+2*M+11)+4*M+6 and M+1 respectively. 
+ *
+ * In order to define the objective and constraint functions, we require 
+ * a subroutine that has the name and arguments 
+ *      SUBROUTINE CALCFC (N,M,X,F,CON) 
+ *      DIMENSION X(*),CON(*)  . 
+ * The values of N and M are fixed and have been defined already, while 
+ * X is now the current vector of variables. The subroutine should return 
+ * the objective and constraint functions at X in F and CON(1),CON(2), 
+ * ...,CON(M). Note that we are trying to adjust X so that F(X) is as 
+ * small as possible subject to the constraint functions being nonnegative. 
+ *
+ * Partition the working space array W to provide the storage that is needed 
+ * for the main calculation.
+ */
+
+  stop->nevals = 0;
+
+  if (n == 0)
+  {
+    if (iprint>=1) fprintf(stderr, "cobyla: N==0.\n");
+    return NLOPT_SUCCESS;
+  }
+
+  if (n < 0 || m < 0)
+  {
+    if (iprint>=1) fprintf(stderr, "cobyla: N<0 or M<0.\n");
+    return NLOPT_INVALID_ARGS;
+  }
+
+  /* workspace allocation */
+  w = malloc((n*(3*n+2*m+11)+4*m+6)*sizeof(*w));
+  if (w == NULL)
+  {
+    if (iprint>=1) fprintf(stderr, "cobyla: memory allocation error.\n");
+    return NLOPT_OUT_OF_MEMORY;
+  }
+  iact = malloc((m+1)*sizeof(*iact));
+  if (iact == NULL)
+  {
+    if (iprint>=1) fprintf(stderr, "cobyla: memory allocation error.\n");
+    free(w);
+    return NLOPT_OUT_OF_MEMORY;
+  }
+  
+  /* Parameter adjustments */
+  --iact;
+  --w;
+  --x;
+
+  /* Function Body */
+  mpp = m + 2;
+  icon = 1;
+  isim = icon + mpp;
+  isimi = isim + n * n + n;
+  idatm = isimi + n * n;
+  ia = idatm + n * mpp + mpp;
+  ivsig = ia + m * n + n;
+  iveta = ivsig + n;
+  isigb = iveta + n;
+  idx = isigb + n;
+  iwork = idx + n;
+  rc = cobylb(&n, &m, &mpp, &x[1], minf, &rhobeg, stop, &iprint,
+      &w[icon], &w[isim], &w[isimi], &w[idatm], &w[ia], &w[ivsig], &w[iveta],
+      &w[isigb], &w[idx], &w[iwork], &iact[1], calcfc, state);
+
+  /* Parameter adjustments (reverse) */
+  ++iact;
+  ++w;
+
+  free(w);
+  free(iact);
+  
+  return rc;
+} /* cobyla */
+
+/* ------------------------------------------------------------------------- */
+static nlopt_result cobylb(int *n, int *m, int *mpp, double 
+    *x, double *minf, double *rhobeg, nlopt_stopping *stop, int *iprint,
+    double *con, double *sim, double *simi, 
+    double *datmat, double *a, double *vsig, double *veta,
+     double *sigbar, double *dx, double *w, int *iact, cobyla_function *calcfc,
+     void *state)
+{
+  /* System generated locals */
+  int sim_dim1, sim_offset, simi_dim1, simi_offset, datmat_dim1, 
+      datmat_offset, a_dim1, a_offset, i__1, i__2, i__3;
+  double d__1, d__2;
+
+  /* Local variables */
+  double alpha, delta, denom, tempa, barmu;
+  double beta, cmin = 0.0, cmax = 0.0;
+  double cvmaxm, dxsign, prerem = 0.0;
+  double edgmax, pareta, prerec = 0.0, phimin, parsig = 0.0;
+  double gamma_;
+  double phi, rho, sum = 0.0;
+  double ratio, vmold, parmu, error, vmnew;
+  double resmax, cvmaxp;
+  double resnew, trured;
+  double temp, wsig, f;
+  double weta;
+  int i__, j, k, l;
+  int idxnew;
+  int iflag = 0;
+  int iptemp;
+  int isdirn, izdota;
+  int ivmc;
+  int ivmd;
+  int mp, np, iz, ibrnch;
+  int nbest, ifull, iptem, jdrop;
+  nlopt_result rc = NLOPT_SUCCESS;
+  double rhoend;
+
+  /* SGJ, 2008: compute rhoend from NLopt stop info */
+  rhoend = stop->xtol_rel * (*rhobeg);
+  for (j = 0; j < *n; ++j)
+       if (rhoend < stop->xtol_abs[j])
+           rhoend = stop->xtol_abs[j];
+
+  /* SGJ, 2008: added code to keep track of minimum feasible function val */
+  *minf = HUGE_VAL;
+
+/* Set the initial values of some parameters. The last column of SIM holds */
+/* the optimal vertex of the current simplex, and the preceding N columns */
+/* hold the displacements from the optimal vertex to the other vertices. */
+/* Further, SIMI holds the inverse of the matrix that is contained in the */
+/* first N columns of SIM. */
+
+  /* Parameter adjustments */
+  a_dim1 = *n;
+  a_offset = 1 + a_dim1 * 1;
+  a -= a_offset;
+  simi_dim1 = *n;
+  simi_offset = 1 + simi_dim1 * 1;
+  simi -= simi_offset;
+  sim_dim1 = *n;
+  sim_offset = 1 + sim_dim1 * 1;
+  sim -= sim_offset;
+  datmat_dim1 = *mpp;
+  datmat_offset = 1 + datmat_dim1 * 1;
+  datmat -= datmat_offset;
+  --x;
+  --con;
+  --vsig;
+  --veta;
+  --sigbar;
+  --dx;
+  --w;
+  --iact;
+
+  /* Function Body */
+  iptem = min(*n,4);
+  iptemp = iptem + 1;
+  np = *n + 1;
+  mp = *m + 1;
+  alpha = .25;
+  beta = 2.1;
+  gamma_ = .5;
+  delta = 1.1;
+  rho = *rhobeg;
+  parmu = 0.;
+  if (*iprint >= 2) {
+    fprintf(stderr,
+      "cobyla: the initial value of RHO is %12.6E and PARMU is set to zero.\n",
+      rho);
+  }
+  temp = 1. / rho;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    sim[i__ + np * sim_dim1] = x[i__];
+    i__2 = *n;
+    for (j = 1; j <= i__2; ++j) {
+      sim[i__ + j * sim_dim1] = 0.;
+      simi[i__ + j * simi_dim1] = 0.;
+    }
+    sim[i__ + i__ * sim_dim1] = rho;
+    simi[i__ + i__ * simi_dim1] = temp;
+  }
+  jdrop = np;
+  ibrnch = 0;
+
+/* Make the next call of the user-supplied subroutine CALCFC. These */
+/* instructions are also used for calling CALCFC during the iterations of */
+/* the algorithm. */
+
+L40:
+  if (nlopt_stop_evals(stop)) rc = NLOPT_MAXEVAL_REACHED;
+  else if (nlopt_stop_time(stop)) rc = NLOPT_MAXTIME_REACHED;
+  if (rc != NLOPT_SUCCESS) goto L600;
+
+  stop->nevals++;
+  if (calcfc(*n, *m, &x[1], &f, &con[1], state))
+  {
+    if (*iprint >= 1) {
+      fprintf(stderr, "cobyla: user requested end of minimization.\n");
+    }
+    rc = NLOPT_FAILURE;
+    goto L600;
+  }
+
+  resmax = 0.;
+  if (*m > 0) {
+    i__1 = *m;
+    for (k = 1; k <= i__1; ++k) {
+      d__1 = resmax, d__2 = -con[k];
+      resmax = max(d__1,d__2);
+    }
+  }
+
+  /* SGJ, 2008: check for minf_max reached by feasible point */
+  if (f < stop->minf_max && resmax <= 0) {
+       rc = NLOPT_MINF_MAX_REACHED;
+       goto L620; /* not L600 because we want to use current x, f, resmax */
+  }
+
+  if (stop->nevals == *iprint - 1 || *iprint == 3) {
+    fprintf(stderr, "cobyla: NFVALS = %4d, F =%13.6E, MAXCV =%13.6E\n",
+           stop->nevals, f, resmax);
+    i__1 = iptem;
+    fprintf(stderr, "cobyla: X =");
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      if (i__>1) fprintf(stderr, "  ");
+      fprintf(stderr, "%13.6E", x[i__]);
+    }
+    if (iptem < *n) {
+      i__1 = *n;
+      for (i__ = iptemp; i__ <= i__1; ++i__) {
+        if (!((i__-1) % 4)) fprintf(stderr, "\ncobyla:  ");
+        fprintf(stderr, "%15.6E", x[i__]);
+      }
+    }
+    fprintf(stderr, "\n");
+  }
+  con[mp] = f;
+  con[*mpp] = resmax;
+  if (ibrnch == 1) {
+    goto L440;
+  }
+
+/* Set the recently calculated function values in a column of DATMAT. This */
+/* array has a column for each vertex of the current simplex, the entries of */
+/* each column being the values of the constraint functions (if any) */
+/* followed by the objective function and the greatest constraint violation */
+/* at the vertex. */
+
+  i__1 = *mpp;
+  for (k = 1; k <= i__1; ++k) {
+    datmat[k + jdrop * datmat_dim1] = con[k];
+  }
+  if (stop->nevals > np) {
+    goto L130;
+  }
+
+/* Exchange the new vertex of the initial simplex with the optimal vertex if */
+/* necessary. Then, if the initial simplex is not complete, pick its next */
+/* vertex and calculate the function values there. */
+
+  if (jdrop <= *n) {
+    if (datmat[mp + np * datmat_dim1] <= f) {
+      x[jdrop] = sim[jdrop + np * sim_dim1];
+    } else { /* improvement in function val */
+      sim[jdrop + np * sim_dim1] = x[jdrop];
+      i__1 = *mpp;
+      for (k = 1; k <= i__1; ++k) {
+        datmat[k + jdrop * datmat_dim1] = datmat[k + np * datmat_dim1]
+            ;
+        datmat[k + np * datmat_dim1] = con[k];
+      }
+      i__1 = jdrop;
+      for (k = 1; k <= i__1; ++k) {
+        sim[jdrop + k * sim_dim1] = -rho;
+        temp = 0.f;
+        i__2 = jdrop;
+        for (i__ = k; i__ <= i__2; ++i__) {
+          temp -= simi[i__ + k * simi_dim1];
+        }
+        simi[jdrop + k * simi_dim1] = temp;
+      }
+    }
+  }
+  if (stop->nevals <= *n) {
+    jdrop = stop->nevals;
+    x[jdrop] += rho;
+    goto L40;
+  }
+L130:
+  ibrnch = 1;
+
+/* Identify the optimal vertex of the current simplex. */
+
+L140:
+  phimin = datmat[mp + np * datmat_dim1] + parmu * datmat[*mpp + np * 
+      datmat_dim1];
+  nbest = np;
+  i__1 = *n;
+  for (j = 1; j <= i__1; ++j) {
+    temp = datmat[mp + j * datmat_dim1] + parmu * datmat[*mpp + j * 
+        datmat_dim1];
+    if (temp < phimin) {
+      nbest = j;
+      phimin = temp;
+    } else if (temp == phimin && parmu == 0.) {
+      if (datmat[*mpp + j * datmat_dim1] < datmat[*mpp + nbest * 
+          datmat_dim1]) {
+        nbest = j;
+      }
+    }
+  }
+
+/* Switch the best vertex into pole position if it is not there already, */
+/* and also update SIM, SIMI and DATMAT. */
+
+  if (nbest <= *n) {
+    i__1 = *mpp;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      temp = datmat[i__ + np * datmat_dim1];
+      datmat[i__ + np * datmat_dim1] = datmat[i__ + nbest * datmat_dim1]
+          ;
+      datmat[i__ + nbest * datmat_dim1] = temp;
+    }
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      temp = sim[i__ + nbest * sim_dim1];
+      sim[i__ + nbest * sim_dim1] = 0.;
+      sim[i__ + np * sim_dim1] += temp;
+      tempa = 0.;
+      i__2 = *n;
+      for (k = 1; k <= i__2; ++k) {
+        sim[i__ + k * sim_dim1] -= temp;
+        tempa -= simi[k + i__ * simi_dim1];
+      }
+      simi[nbest + i__ * simi_dim1] = tempa;
+    }
+  }
+
+/* Make an error return if SIGI is a poor approximation to the inverse of */
+/* the leading N by N submatrix of SIG. */
+
+  error = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    i__2 = *n;
+    for (j = 1; j <= i__2; ++j) {
+      temp = 0.;
+      if (i__ == j) {
+        temp += -1.;
+      }
+      i__3 = *n;
+      for (k = 1; k <= i__3; ++k) {
+        temp += simi[i__ + k * simi_dim1] * sim[k + j * sim_dim1];
+      }
+      d__1 = error, d__2 = abs(temp);
+      error = max(d__1,d__2);
+    }
+  }
+  if (error > .1) {
+    if (*iprint >= 1) {
+      fprintf(stderr, "cobyla: rounding errors are becoming damaging.\n");
+    }
+    rc = NLOPT_FAILURE;
+    goto L600;
+  }
+
+/* Calculate the coefficients of the linear approximations to the objective */
+/* and constraint functions, placing minus the objective function gradient */
+/* after the constraint gradients in the array A. The vector W is used for */
+/* working space. */
+
+  i__2 = mp;
+  for (k = 1; k <= i__2; ++k) {
+    con[k] = -datmat[k + np * datmat_dim1];
+    i__1 = *n;
+    for (j = 1; j <= i__1; ++j) {
+      w[j] = datmat[k + j * datmat_dim1] + con[k];
+    }
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      temp = 0.;
+      i__3 = *n;
+      for (j = 1; j <= i__3; ++j) {
+        temp += w[j] * simi[j + i__ * simi_dim1];
+      }
+      if (k == mp) {
+        temp = -temp;
+      }
+      a[i__ + k * a_dim1] = temp;
+    }
+  }
+
+/* Calculate the values of sigma and eta, and set IFLAG=0 if the current */
+/* simplex is not acceptable. */
+
+  iflag = 1;
+  parsig = alpha * rho;
+  pareta = beta * rho;
+  i__1 = *n;
+  for (j = 1; j <= i__1; ++j) {
+    wsig = 0.;
+    weta = 0.;
+    i__2 = *n;
+    for (i__ = 1; i__ <= i__2; ++i__) {
+      d__1 = simi[j + i__ * simi_dim1];
+      wsig += d__1 * d__1;
+      d__1 = sim[i__ + j * sim_dim1];
+      weta += d__1 * d__1;
+    }
+    vsig[j] = 1. / sqrt(wsig);
+    veta[j] = sqrt(weta);
+    if (vsig[j] < parsig || veta[j] > pareta) {
+      iflag = 0;
+    }
+  }
+
+/* If a new vertex is needed to improve acceptability, then decide which */
+/* vertex to drop from the simplex. */
+
+  if (ibrnch == 1 || iflag == 1) {
+    goto L370;
+  }
+  jdrop = 0;
+  temp = pareta;
+  i__1 = *n;
+  for (j = 1; j <= i__1; ++j) {
+    if (veta[j] > temp) {
+      jdrop = j;
+      temp = veta[j];
+    }
+  }
+  if (jdrop == 0) {
+    i__1 = *n;
+    for (j = 1; j <= i__1; ++j) {
+      if (vsig[j] < temp) {
+        jdrop = j;
+        temp = vsig[j];
+      }
+    }
+  }
+
+/* Calculate the step to the new vertex and its sign. */
+
+  temp = gamma_ * rho * vsig[jdrop];
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    dx[i__] = temp * simi[jdrop + i__ * simi_dim1];
+  }
+  cvmaxp = 0.;
+  cvmaxm = 0.;
+  i__1 = mp;
+  for (k = 1; k <= i__1; ++k) {
+    sum = 0.;
+    i__2 = *n;
+    for (i__ = 1; i__ <= i__2; ++i__) {
+      sum += a[i__ + k * a_dim1] * dx[i__];
+    }
+    if (k < mp) {
+      temp = datmat[k + np * datmat_dim1];
+      d__1 = cvmaxp, d__2 = -sum - temp;
+      cvmaxp = max(d__1,d__2);
+      d__1 = cvmaxm, d__2 = sum - temp;
+      cvmaxm = max(d__1,d__2);
+    }
+  }
+  dxsign = 1.;
+  if (parmu * (cvmaxp - cvmaxm) > sum + sum) {
+    dxsign = -1.;
+  }
+
+/* Update the elements of SIM and SIMI, and set the next X. */
+
+  temp = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    dx[i__] = dxsign * dx[i__];
+    sim[i__ + jdrop * sim_dim1] = dx[i__];
+    temp += simi[jdrop + i__ * simi_dim1] * dx[i__];
+  }
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    simi[jdrop + i__ * simi_dim1] /= temp;
+  }
+  i__1 = *n;
+  for (j = 1; j <= i__1; ++j) {
+    if (j != jdrop) {
+      temp = 0.;
+      i__2 = *n;
+      for (i__ = 1; i__ <= i__2; ++i__) {
+        temp += simi[j + i__ * simi_dim1] * dx[i__];
+      }
+      i__2 = *n;
+      for (i__ = 1; i__ <= i__2; ++i__) {
+        simi[j + i__ * simi_dim1] -= temp * simi[jdrop + i__ * 
+            simi_dim1];
+      }
+    }
+    x[j] = sim[j + np * sim_dim1] + dx[j];
+  }
+  goto L40;
+
+/* Calculate DX=x(*)-x(0). Branch if the length of DX is less than 0.5*RHO. */
+
+L370:
+  iz = 1;
+  izdota = iz + *n * *n;
+  ivmc = izdota + *n;
+  isdirn = ivmc + mp;
+  idxnew = isdirn + *n;
+  ivmd = idxnew + *n;
+  trstlp(n, m, &a[a_offset], &con[1], &rho, &dx[1], &ifull, &iact[1], &w[
+      iz], &w[izdota], &w[ivmc], &w[isdirn], &w[idxnew], &w[ivmd]);
+  if (ifull == 0) {
+    temp = 0.;
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      d__1 = dx[i__];
+      temp += d__1 * d__1;
+    }
+    if (temp < rho * .25 * rho) {
+      ibrnch = 1;
+      goto L550;
+    }
+  }
+
+/* Predict the change to F and the new maximum constraint violation if the */
+/* variables are altered from x(0) to x(0)+DX. */
+
+  resnew = 0.;
+  con[mp] = 0.;
+  i__1 = mp;
+  for (k = 1; k <= i__1; ++k) {
+    sum = con[k];
+    i__2 = *n;
+    for (i__ = 1; i__ <= i__2; ++i__) {
+      sum -= a[i__ + k * a_dim1] * dx[i__];
+    }
+    if (k < mp) {
+      resnew = max(resnew,sum);
+    }
+  }
+
+/* Increase PARMU if necessary and branch back if this change alters the */
+/* optimal vertex. Otherwise PREREM and PREREC will be set to the predicted */
+/* reductions in the merit function and the maximum constraint violation */
+/* respectively. */
+
+  barmu = 0.;
+  prerec = datmat[*mpp + np * datmat_dim1] - resnew;
+  if (prerec > 0.) {
+    barmu = sum / prerec;
+  }
+  if (parmu < barmu * 1.5) {
+    parmu = barmu * 2.;
+    if (*iprint >= 2) {
+      fprintf(stderr, "cobyla: increase in PARMU to %12.6E\n", parmu);
+    }
+    phi = datmat[mp + np * datmat_dim1] + parmu * datmat[*mpp + np * 
+        datmat_dim1];
+    i__1 = *n;
+    for (j = 1; j <= i__1; ++j) {
+      temp = datmat[mp + j * datmat_dim1] + parmu * datmat[*mpp + j * 
+          datmat_dim1];
+      if (temp < phi) {
+        goto L140;
+      }
+      if (temp == phi && parmu == 0.f) {
+        if (datmat[*mpp + j * datmat_dim1] < datmat[*mpp + np * 
+            datmat_dim1]) {
+          goto L140;
+        }
+      }
+    }
+  }
+  prerem = parmu * prerec - sum;
+
+/* Calculate the constraint and objective functions at x(*). Then find the */
+/* actual reduction in the merit function. */
+
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    x[i__] = sim[i__ + np * sim_dim1] + dx[i__];
+  }
+  ibrnch = 1;
+  goto L40;
+L440:
+  vmold = datmat[mp + np * datmat_dim1] + parmu * datmat[*mpp + np * 
+      datmat_dim1];
+  vmnew = f + parmu * resmax;
+  trured = vmold - vmnew;
+  if (parmu == 0. && f == datmat[mp + np * datmat_dim1]) {
+    prerem = prerec;
+    trured = datmat[*mpp + np * datmat_dim1] - resmax;
+  }
+
+/* Begin the operations that decide whether x(*) should replace one of the */
+/* vertices of the current simplex, the change being mandatory if TRURED is */
+/* positive. Firstly, JDROP is set to the index of the vertex that is to be */
+/* replaced. */
+
+  ratio = 0.;
+  if (trured <= 0.f) {
+    ratio = 1.f;
+  }
+  jdrop = 0;
+  i__1 = *n;
+  for (j = 1; j <= i__1; ++j) {
+    temp = 0.;
+    i__2 = *n;
+    for (i__ = 1; i__ <= i__2; ++i__) {
+      temp += simi[j + i__ * simi_dim1] * dx[i__];
+    }
+    temp = abs(temp);
+    if (temp > ratio) {
+      jdrop = j;
+      ratio = temp;
+    }
+    sigbar[j] = temp * vsig[j];
+  }
+
+/* Calculate the value of ell. */
+
+  edgmax = delta * rho;
+  l = 0;
+  i__1 = *n;
+  for (j = 1; j <= i__1; ++j) {
+    if (sigbar[j] >= parsig || sigbar[j] >= vsig[j]) {
+      temp = veta[j];
+      if (trured > 0.) {
+        temp = 0.;
+        i__2 = *n;
+        for (i__ = 1; i__ <= i__2; ++i__) {
+          d__1 = dx[i__] - sim[i__ + j * sim_dim1];
+          temp += d__1 * d__1;
+        }
+        temp = sqrt(temp);
+      }
+      if (temp > edgmax) {
+        l = j;
+        edgmax = temp;
+      }
+    }
+  }
+  if (l > 0) {
+    jdrop = l;
+  }
+  if (jdrop == 0) {
+    goto L550;
+  }
+
+/* Revise the simplex by updating the elements of SIM, SIMI and DATMAT. */
+
+  temp = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    sim[i__ + jdrop * sim_dim1] = dx[i__];
+    temp += simi[jdrop + i__ * simi_dim1] * dx[i__];
+  }
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    simi[jdrop + i__ * simi_dim1] /= temp;
+  }
+  i__1 = *n;
+  for (j = 1; j <= i__1; ++j) {
+    if (j != jdrop) {
+      temp = 0.;
+      i__2 = *n;
+      for (i__ = 1; i__ <= i__2; ++i__) {
+        temp += simi[j + i__ * simi_dim1] * dx[i__];
+      }
+      i__2 = *n;
+      for (i__ = 1; i__ <= i__2; ++i__) {
+        simi[j + i__ * simi_dim1] -= temp * simi[jdrop + i__ * 
+            simi_dim1];
+      }
+    }
+  }
+  i__1 = *mpp;
+  for (k = 1; k <= i__1; ++k) {
+    datmat[k + jdrop * datmat_dim1] = con[k];
+  }
+
+/* Branch back for further iterations with the current RHO. */
+
+  if (trured > 0. && trured >= prerem * .1) {
+    goto L140;
+  }
+L550:
+  if (iflag == 0) {
+    ibrnch = 0;
+    goto L140;
+  }
+
+  /* SGJ, 2008: convergence tests for function vals; note that current
+     best val is stored in datmat[mp + np * datmat_dim1], or in f if
+     ifull == 1, and prev.  best is in *minf.  This seems like a
+     sensible place to put the convergence test, as it is the same
+     place that Powell checks the x tolerance (rho > rhoend). */
+  {
+       double fbest = ifull == 1 ? f : datmat[mp + np * datmat_dim1];
+       if (fbest < *minf && nlopt_stop_ftol(stop, fbest, *minf)) {
+           rc = NLOPT_FTOL_REACHED;
+           goto L600;
+       }
+       *minf = fbest;
+  }
+
+/* Otherwise reduce RHO if it is not at its least value and reset PARMU. */
+
+  if (rho > rhoend) {
+    rho *= .5;
+    if (rho <= rhoend * 1.5) {
+      rho = rhoend;
+    }
+    if (parmu > 0.) {
+      denom = 0.;
+      i__1 = mp;
+      for (k = 1; k <= i__1; ++k) {
+        cmin = datmat[k + np * datmat_dim1];
+        cmax = cmin;
+        i__2 = *n;
+        for (i__ = 1; i__ <= i__2; ++i__) {
+          d__1 = cmin, d__2 = datmat[k + i__ * datmat_dim1];
+          cmin = min(d__1,d__2);
+          d__1 = cmax, d__2 = datmat[k + i__ * datmat_dim1];
+          cmax = max(d__1,d__2);
+        }
+        if (k <= *m && cmin < cmax * .5) {
+          temp = max(cmax,0.) - cmin;
+          if (denom <= 0.) {
+            denom = temp;
+          } else {
+            denom = min(denom,temp);
+          }
+        }
+      }
+      if (denom == 0.) {
+        parmu = 0.;
+      } else if (cmax - cmin < parmu * denom) {
+        parmu = (cmax - cmin) / denom;
+      }
+    }
+    if (*iprint >= 2) {
+      fprintf(stderr, "cobyla: reduction in RHO to %12.6E and PARMU =%13.6E\n",
+        rho, parmu);
+    }
+    if (*iprint == 2) {
+      fprintf(stderr, "cobyla: NFVALS = %4d, F =%13.6E, MAXCV =%13.6E\n",
+        stop->nevals, datmat[mp + np * datmat_dim1], datmat[*mpp + np * datmat_dim1]);
+
+      fprintf(stderr, "cobyla: X =");
+      i__1 = iptem;
+      for (i__ = 1; i__ <= i__1; ++i__) {
+        if (i__>1) fprintf(stderr, "  ");
+        fprintf(stderr, "%13.6E", sim[i__ + np * sim_dim1]);
+      }
+      if (iptem < *n) {
+        i__1 = *n;
+        for (i__ = iptemp; i__ <= i__1; ++i__) {
+          if (!((i__-1) % 4)) fprintf(stderr, "\ncobyla:  ");
+          fprintf(stderr, "%15.6E", x[i__]);
+        }
+      }
+      fprintf(stderr, "\n");
+    }
+    goto L140;
+  }
+  else
+       rc = NLOPT_XTOL_REACHED;
+
+/* Return the best calculated values of the variables. */
+
+  if (*iprint >= 1) {
+    fprintf(stderr, "cobyla: normal return.\n");
+  }
+  if (ifull == 1) {
+    goto L620;
+  }
+L600:
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    x[i__] = sim[i__ + np * sim_dim1];
+  }
+  f = datmat[mp + np * datmat_dim1];
+  resmax = datmat[*mpp + np * datmat_dim1];
+L620:
+  *minf = f;
+  if (*iprint >= 1) {
+    fprintf(stderr, "cobyla: NFVALS = %4d, F =%13.6E, MAXCV =%13.6E\n",
+           stop->nevals, f, resmax);
+    i__1 = iptem;
+    fprintf(stderr, "cobyla: X =");
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      if (i__>1) fprintf(stderr, "  ");
+      fprintf(stderr, "%13.6E", x[i__]);
+    }
+    if (iptem < *n) {
+      i__1 = *n;
+      for (i__ = iptemp; i__ <= i__1; ++i__) {
+        if (!((i__-1) % 4)) fprintf(stderr, "\ncobyla:  ");
+        fprintf(stderr, "%15.6E", x[i__]);
+      }
+    }
+    fprintf(stderr, "\n");
+  }
+  return rc;
+} /* cobylb */
+
+/* ------------------------------------------------------------------------- */
+static void trstlp(int *n, int *m, double *a, 
+    double *b, double *rho, double *dx, int *ifull, 
+    int *iact, double *z__, double *zdota, double *vmultc,
+     double *sdirn, double *dxnew, double *vmultd)
+{
+  /* System generated locals */
+  int a_dim1, a_offset, z_dim1, z_offset, i__1, i__2;
+  double d__1, d__2;
+
+  /* Local variables */
+  double alpha, tempa;
+  double beta;
+  double optnew, stpful, sum, tot, acca, accb;
+  double ratio, vsave, zdotv, zdotw, dd;
+  double sd;
+  double sp, ss, resold = 0.0, zdvabs, zdwabs, sumabs, resmax, optold;
+  double spabs;
+  double temp, step;
+  int icount;
+  int iout, i__, j, k;
+  int isave;
+  int kk;
+  int kl, kp, kw;
+  int nact, icon = 0, mcon;
+  int nactx = 0;
+
+
+/* This subroutine calculates an N-component vector DX by applying the */
+/* following two stages. In the first stage, DX is set to the shortest */
+/* vector that minimizes the greatest violation of the constraints */
+/*   A(1,K)*DX(1)+A(2,K)*DX(2)+...+A(N,K)*DX(N) .GE. B(K), K=2,3,...,M, */
+/* subject to the Euclidean length of DX being at most RHO. If its length is */
+/* strictly less than RHO, then we use the resultant freedom in DX to */
+/* minimize the objective function */
+/*      -A(1,M+1)*DX(1)-A(2,M+1)*DX(2)-...-A(N,M+1)*DX(N) */
+/* subject to no increase in any greatest constraint violation. This */
+/* notation allows the gradient of the objective function to be regarded as */
+/* the gradient of a constraint. Therefore the two stages are distinguished */
+/* by MCON .EQ. M and MCON .GT. M respectively. It is possible that a */
+/* degeneracy may prevent DX from attaining the target length RHO. Then the */
+/* value IFULL=0 would be set, but usually IFULL=1 on return. */
+
+/* In general NACT is the number of constraints in the active set and */
+/* IACT(1),...,IACT(NACT) are their indices, while the remainder of IACT */
+/* contains a permutation of the remaining constraint indices. Further, Z is */
+/* an orthogonal matrix whose first NACT columns can be regarded as the */
+/* result of Gram-Schmidt applied to the active constraint gradients. For */
+/* J=1,2,...,NACT, the number ZDOTA(J) is the scalar product of the J-th */
+/* column of Z with the gradient of the J-th active constraint. DX is the */
+/* current vector of variables and here the residuals of the active */
+/* constraints should be zero. Further, the active constraints have */
+/* nonnegative Lagrange multipliers that are held at the beginning of */
+/* VMULTC. The remainder of this vector holds the residuals of the inactive */
+/* constraints at DX, the ordering of the components of VMULTC being in */
+/* agreement with the permutation of the indices of the constraints that is */
+/* in IACT. All these residuals are nonnegative, which is achieved by the */
+/* shift RESMAX that makes the least residual zero. */
+
+/* Initialize Z and some other variables. The value of RESMAX will be */
+/* appropriate to DX=0, while ICON will be the index of a most violated */
+/* constraint if RESMAX is positive. Usually during the first stage the */
+/* vector SDIRN gives a search direction that reduces all the active */
+/* constraint violations by one simultaneously. */
+
+  /* Parameter adjustments */
+  z_dim1 = *n;
+  z_offset = 1 + z_dim1 * 1;
+  z__ -= z_offset;
+  a_dim1 = *n;
+  a_offset = 1 + a_dim1 * 1;
+  a -= a_offset;
+  --b;
+  --dx;
+  --iact;
+  --zdota;
+  --vmultc;
+  --sdirn;
+  --dxnew;
+  --vmultd;
+
+  /* Function Body */
+  *ifull = 1;
+  mcon = *m;
+  nact = 0;
+  resmax = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    i__2 = *n;
+    for (j = 1; j <= i__2; ++j) {
+      z__[i__ + j * z_dim1] = 0.;
+    }
+    z__[i__ + i__ * z_dim1] = 1.;
+    dx[i__] = 0.;
+  }
+  if (*m >= 1) {
+    i__1 = *m;
+    for (k = 1; k <= i__1; ++k) {
+      if (b[k] > resmax) {
+        resmax = b[k];
+        icon = k;
+      }
+    }
+    i__1 = *m;
+    for (k = 1; k <= i__1; ++k) {
+      iact[k] = k;
+      vmultc[k] = resmax - b[k];
+    }
+  }
+  if (resmax == 0.) {
+    goto L480;
+  }
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    sdirn[i__] = 0.;
+  }
+
+/* End the current stage of the calculation if 3 consecutive iterations */
+/* have either failed to reduce the best calculated value of the objective */
+/* function or to increase the number of active constraints since the best */
+/* value was calculated. This strategy prevents cycling, but there is a */
+/* remote possibility that it will cause premature termination. */
+
+L60:
+  optold = 0.;
+  icount = 0;
+L70:
+  if (mcon == *m) {
+    optnew = resmax;
+  } else {
+    optnew = 0.;
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      optnew -= dx[i__] * a[i__ + mcon * a_dim1];
+    }
+  }
+  if (icount == 0 || optnew < optold) {
+    optold = optnew;
+    nactx = nact;
+    icount = 3;
+  } else if (nact > nactx) {
+    nactx = nact;
+    icount = 3;
+  } else {
+    --icount;
+    if (icount == 0) {
+      goto L490;
+    }
+  }
+
+/* If ICON exceeds NACT, then we add the constraint with index IACT(ICON) to */
+/* the active set. Apply Givens rotations so that the last N-NACT-1 columns */
+/* of Z are orthogonal to the gradient of the new constraint, a scalar */
+/* product being set to zero if its nonzero value could be due to computer */
+/* rounding errors. The array DXNEW is used for working space. */
+
+  if (icon <= nact) {
+    goto L260;
+  }
+  kk = iact[icon];
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    dxnew[i__] = a[i__ + kk * a_dim1];
+  }
+  tot = 0.;
+  k = *n;
+L100:
+  if (k > nact) {
+    sp = 0.;
+    spabs = 0.;
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      temp = z__[i__ + k * z_dim1] * dxnew[i__];
+      sp += temp;
+      spabs += abs(temp);
+    }
+    acca = spabs + abs(sp) * .1;
+    accb = spabs + abs(sp) * .2;
+    if (spabs >= acca || acca >= accb) {
+      sp = 0.;
+    }
+    if (tot == 0.) {
+      tot = sp;
+    } else {
+      kp = k + 1;
+      temp = sqrt(sp * sp + tot * tot);
+      alpha = sp / temp;
+      beta = tot / temp;
+      tot = temp;
+      i__1 = *n;
+      for (i__ = 1; i__ <= i__1; ++i__) {
+        temp = alpha * z__[i__ + k * z_dim1] + beta * z__[i__ + kp * 
+            z_dim1];
+        z__[i__ + kp * z_dim1] = alpha * z__[i__ + kp * z_dim1] - 
+            beta * z__[i__ + k * z_dim1];
+        z__[i__ + k * z_dim1] = temp;
+      }
+    }
+    --k;
+    goto L100;
+  }
+
+/* Add the new constraint if this can be done without a deletion from the */
+/* active set. */
+
+  if (tot != 0.) {
+    ++nact;
+    zdota[nact] = tot;
+    vmultc[icon] = vmultc[nact];
+    vmultc[nact] = 0.;
+    goto L210;
+  }
+
+/* The next instruction is reached if a deletion has to be made from the */
+/* active set in order to make room for the new active constraint, because */
+/* the new constraint gradient is a linear combination of the gradients of */
+/* the old active constraints. Set the elements of VMULTD to the multipliers */
+/* of the linear combination. Further, set IOUT to the index of the */
+/* constraint to be deleted, but branch if no suitable index can be found. */
+
+  ratio = -1.;
+  k = nact;
+L130:
+  zdotv = 0.;
+  zdvabs = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    temp = z__[i__ + k * z_dim1] * dxnew[i__];
+    zdotv += temp;
+    zdvabs += abs(temp);
+  }
+  acca = zdvabs + abs(zdotv) * .1;
+  accb = zdvabs + abs(zdotv) * .2;
+  if (zdvabs < acca && acca < accb) {
+    temp = zdotv / zdota[k];
+    if (temp > 0. && iact[k] <= *m) {
+      tempa = vmultc[k] / temp;
+      if (ratio < 0. || tempa < ratio) {
+        ratio = tempa;
+        iout = k;
+      }
+    }
+    if (k >= 2) {
+      kw = iact[k];
+      i__1 = *n;
+      for (i__ = 1; i__ <= i__1; ++i__) {
+        dxnew[i__] -= temp * a[i__ + kw * a_dim1];
+      }
+    }
+    vmultd[k] = temp;
+  } else {
+    vmultd[k] = 0.;
+  }
+  --k;
+  if (k > 0) {
+    goto L130;
+  }
+  if (ratio < 0.) {
+    goto L490;
+  }
+
+/* Revise the Lagrange multipliers and reorder the active constraints so */
+/* that the one to be replaced is at the end of the list. Also calculate the */
+/* new value of ZDOTA(NACT) and branch if it is not acceptable. */
+
+  i__1 = nact;
+  for (k = 1; k <= i__1; ++k) {
+    d__1 = 0., d__2 = vmultc[k] - ratio * vmultd[k];
+    vmultc[k] = max(d__1,d__2);
+  }
+  if (icon < nact) {
+    isave = iact[icon];
+    vsave = vmultc[icon];
+    k = icon;
+L170:
+    kp = k + 1;
+    kw = iact[kp];
+    sp = 0.;
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      sp += z__[i__ + k * z_dim1] * a[i__ + kw * a_dim1];
+    }
+    d__1 = zdota[kp];
+    temp = sqrt(sp * sp + d__1 * d__1);
+    alpha = zdota[kp] / temp;
+    beta = sp / temp;
+    zdota[kp] = alpha * zdota[k];
+    zdota[k] = temp;
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      temp = alpha * z__[i__ + kp * z_dim1] + beta * z__[i__ + k * 
+          z_dim1];
+      z__[i__ + kp * z_dim1] = alpha * z__[i__ + k * z_dim1] - beta * 
+          z__[i__ + kp * z_dim1];
+      z__[i__ + k * z_dim1] = temp;
+    }
+    iact[k] = kw;
+    vmultc[k] = vmultc[kp];
+    k = kp;
+    if (k < nact) {
+      goto L170;
+    }
+    iact[k] = isave;
+    vmultc[k] = vsave;
+  }
+  temp = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    temp += z__[i__ + nact * z_dim1] * a[i__ + kk * a_dim1];
+  }
+  if (temp == 0.) {
+    goto L490;
+  }
+  zdota[nact] = temp;
+  vmultc[icon] = 0.;
+  vmultc[nact] = ratio;
+
+/* Update IACT and ensure that the objective function continues to be */
+/* treated as the last active constraint when MCON>M. */
+
+L210:
+  iact[icon] = iact[nact];
+  iact[nact] = kk;
+  if (mcon > *m && kk != mcon) {
+    k = nact - 1;
+    sp = 0.;
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      sp += z__[i__ + k * z_dim1] * a[i__ + kk * a_dim1];
+    }
+    d__1 = zdota[nact];
+    temp = sqrt(sp * sp + d__1 * d__1);
+    alpha = zdota[nact] / temp;
+    beta = sp / temp;
+    zdota[nact] = alpha * zdota[k];
+    zdota[k] = temp;
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      temp = alpha * z__[i__ + nact * z_dim1] + beta * z__[i__ + k * 
+          z_dim1];
+      z__[i__ + nact * z_dim1] = alpha * z__[i__ + k * z_dim1] - beta * 
+          z__[i__ + nact * z_dim1];
+      z__[i__ + k * z_dim1] = temp;
+    }
+    iact[nact] = iact[k];
+    iact[k] = kk;
+    temp = vmultc[k];
+    vmultc[k] = vmultc[nact];
+    vmultc[nact] = temp;
+  }
+
+/* If stage one is in progress, then set SDIRN to the direction of the next */
+/* change to the current vector of variables. */
+
+  if (mcon > *m) {
+    goto L320;
+  }
+  kk = iact[nact];
+  temp = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    temp += sdirn[i__] * a[i__ + kk * a_dim1];
+  }
+  temp += -1.;
+  temp /= zdota[nact];
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    sdirn[i__] -= temp * z__[i__ + nact * z_dim1];
+  }
+  goto L340;
+
+/* Delete the constraint that has the index IACT(ICON) from the active set. */
+
+L260:
+  if (icon < nact) {
+    isave = iact[icon];
+    vsave = vmultc[icon];
+    k = icon;
+L270:
+    kp = k + 1;
+    kk = iact[kp];
+    sp = 0.;
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      sp += z__[i__ + k * z_dim1] * a[i__ + kk * a_dim1];
+    }
+    d__1 = zdota[kp];
+    temp = sqrt(sp * sp + d__1 * d__1);
+    alpha = zdota[kp] / temp;
+    beta = sp / temp;
+    zdota[kp] = alpha * zdota[k];
+    zdota[k] = temp;
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      temp = alpha * z__[i__ + kp * z_dim1] + beta * z__[i__ + k * 
+          z_dim1];
+      z__[i__ + kp * z_dim1] = alpha * z__[i__ + k * z_dim1] - beta * 
+          z__[i__ + kp * z_dim1];
+      z__[i__ + k * z_dim1] = temp;
+    }
+    iact[k] = kk;
+    vmultc[k] = vmultc[kp];
+    k = kp;
+    if (k < nact) {
+      goto L270;
+    }
+    iact[k] = isave;
+    vmultc[k] = vsave;
+  }
+  --nact;
+
+/* If stage one is in progress, then set SDIRN to the direction of the next */
+/* change to the current vector of variables. */
+
+  if (mcon > *m) {
+    goto L320;
+  }
+  temp = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    temp += sdirn[i__] * z__[i__ + (nact + 1) * z_dim1];
+  }
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    sdirn[i__] -= temp * z__[i__ + (nact + 1) * z_dim1];
+  }
+  goto L340;
+
+/* Pick the next search direction of stage two. */
+
+L320:
+  temp = 1. / zdota[nact];
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    sdirn[i__] = temp * z__[i__ + nact * z_dim1];
+  }
+
+/* Calculate the step to the boundary of the trust region or take the step */
+/* that reduces RESMAX to zero. The two statements below that include the */
+/* factor 1.0E-6 prevent some harmless underflows that occurred in a test */
+/* calculation. Further, we skip the step if it could be zero within a */
+/* reasonable tolerance for computer rounding errors. */
+
+L340:
+  dd = *rho * *rho;
+  sd = 0.;
+  ss = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    if ((d__1 = dx[i__], abs(d__1)) >= *rho * 1e-6f) {
+      d__2 = dx[i__];
+      dd -= d__2 * d__2;
+    }
+    sd += dx[i__] * sdirn[i__];
+    d__1 = sdirn[i__];
+    ss += d__1 * d__1;
+  }
+  if (dd <= 0.) {
+    goto L490;
+  }
+  temp = sqrt(ss * dd);
+  if (abs(sd) >= temp * 1e-6f) {
+    temp = sqrt(ss * dd + sd * sd);
+  }
+  stpful = dd / (temp + sd);
+  step = stpful;
+  if (mcon == *m) {
+    acca = step + resmax * .1;
+    accb = step + resmax * .2;
+    if (step >= acca || acca >= accb) {
+      goto L480;
+    }
+    step = min(step,resmax);
+  }
+
+/* Set DXNEW to the new variables if STEP is the steplength, and reduce */
+/* RESMAX to the corresponding maximum residual if stage one is being done. */
+/* Because DXNEW will be changed during the calculation of some Lagrange */
+/* multipliers, it will be restored to the following value later. */
+
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    dxnew[i__] = dx[i__] + step * sdirn[i__];
+  }
+  if (mcon == *m) {
+    resold = resmax;
+    resmax = 0.;
+    i__1 = nact;
+    for (k = 1; k <= i__1; ++k) {
+      kk = iact[k];
+      temp = b[kk];
+      i__2 = *n;
+      for (i__ = 1; i__ <= i__2; ++i__) {
+        temp -= a[i__ + kk * a_dim1] * dxnew[i__];
+      }
+      resmax = max(resmax,temp);
+    }
+  }
+
+/* Set VMULTD to the VMULTC vector that would occur if DX became DXNEW. A */
+/* device is included to force VMULTD(K)=0.0 if deviations from this value */
+/* can be attributed to computer rounding errors. First calculate the new */
+/* Lagrange multipliers. */
+
+  k = nact;
+L390:
+  zdotw = 0.;
+  zdwabs = 0.;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    temp = z__[i__ + k * z_dim1] * dxnew[i__];
+    zdotw += temp;
+    zdwabs += abs(temp);
+  }
+  acca = zdwabs + abs(zdotw) * .1;
+  accb = zdwabs + abs(zdotw) * .2;
+  if (zdwabs >= acca || acca >= accb) {
+    zdotw = 0.;
+  }
+  vmultd[k] = zdotw / zdota[k];
+  if (k >= 2) {
+    kk = iact[k];
+    i__1 = *n;
+    for (i__ = 1; i__ <= i__1; ++i__) {
+      dxnew[i__] -= vmultd[k] * a[i__ + kk * a_dim1];
+    }
+    --k;
+    goto L390;
+  }
+  if (mcon > *m) {
+    d__1 = 0., d__2 = vmultd[nact];
+    vmultd[nact] = max(d__1,d__2);
+  }
+
+/* Complete VMULTC by finding the new constraint residuals. */
+
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    dxnew[i__] = dx[i__] + step * sdirn[i__];
+  }
+  if (mcon > nact) {
+    kl = nact + 1;
+    i__1 = mcon;
+    for (k = kl; k <= i__1; ++k) {
+      kk = iact[k];
+      sum = resmax - b[kk];
+      sumabs = resmax + (d__1 = b[kk], abs(d__1));
+      i__2 = *n;
+      for (i__ = 1; i__ <= i__2; ++i__) {
+        temp = a[i__ + kk * a_dim1] * dxnew[i__];
+        sum += temp;
+        sumabs += abs(temp);
+      }
+      acca = sumabs + abs(sum) * .1f;
+      accb = sumabs + abs(sum) * .2f;
+      if (sumabs >= acca || acca >= accb) {
+        sum = 0.f;
+      }
+      vmultd[k] = sum;
+    }
+  }
+
+/* Calculate the fraction of the step from DX to DXNEW that will be taken. */
+
+  ratio = 1.;
+  icon = 0;
+  i__1 = mcon;
+  for (k = 1; k <= i__1; ++k) {
+    if (vmultd[k] < 0.) {
+      temp = vmultc[k] / (vmultc[k] - vmultd[k]);
+      if (temp < ratio) {
+        ratio = temp;
+        icon = k;
+      }
+    }
+  }
+
+/* Update DX, VMULTC and RESMAX. */
+
+  temp = 1. - ratio;
+  i__1 = *n;
+  for (i__ = 1; i__ <= i__1; ++i__) {
+    dx[i__] = temp * dx[i__] + ratio * dxnew[i__];
+  }
+  i__1 = mcon;
+  for (k = 1; k <= i__1; ++k) {
+    d__1 = 0., d__2 = temp * vmultc[k] + ratio * vmultd[k];
+    vmultc[k] = max(d__1,d__2);
+  }
+  if (mcon == *m) {
+    resmax = resold + ratio * (resmax - resold);
+  }
+
+/* If the full step is not acceptable then begin another iteration. */
+/* Otherwise switch to stage two or end the calculation. */
+
+  if (icon > 0) {
+    goto L70;
+  }
+  if (step == stpful) {
+    goto L500;
+  }
+L480:
+  mcon = *m + 1;
+  icon = mcon;
+  iact[mcon] = mcon;
+  vmultc[mcon] = 0.;
+  goto L60;
+
+/* We employ any freedom that may be available to reduce the objective */
+/* function before returning a DX whose length is less than RHO. */
+
+L490:
+  if (mcon == *m) {
+    goto L480;
+  }
+  *ifull = 0;
+L500:
+  return;
+} /* trstlp */
diff --git a/cobyla/cobyla.h b/cobyla/cobyla.h
new file mode 100644 (file)
index 0000000..865852d
--- /dev/null
@@ -0,0 +1,107 @@
+/* cobyla : contrained optimization by linear approximation */
+
+/*
+ * Copyright (c) 1992, Michael J. D. Powell (M.J.D.Powell@damtp.cam.ac.uk)
+ * Copyright (c) 2004, Jean-Sebastien Roy (js@jeannot.org)
+ * 
+ * Permission is hereby granted, free of charge, to any person obtaining a
+ * copy of this software and associated documentation files (the
+ * "Software"), to deal in the Software without restriction, including
+ * without limitation the rights to use, copy, modify, merge, publish,
+ * distribute, sublicense, and/or sell copies of the Software, and to
+ * permit persons to whom the Software is furnished to do so, subject to
+ * the following conditions:
+ * 
+ * The above copyright notice and this permission notice shall be included
+ * in all copies or substantial portions of the Software.
+ * 
+ * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS
+ * OR IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF
+ * MERCHANTABILITY, FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.
+ * IN NO EVENT SHALL THE AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY
+ * CLAIM, DAMAGES OR OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT,
+ * TORT OR OTHERWISE, ARISING FROM, OUT OF OR IN CONNECTION WITH THE
+ * SOFTWARE OR THE USE OR OTHER DEALINGS IN THE SOFTWARE.
+ */
+
+/*
+ * This software is a C version of COBYLA2, a contrained optimization by linear
+ * approximation package developed by Michael J. D. Powell in Fortran.
+ * 
+ * The original source code can be found at :
+ * http://plato.la.asu.edu/topics/problems/nlores.html
+ */
+
+/* $Jeannot: cobyla.h,v 1.10 2004/04/18 09:51:37 js Exp $ */
+
+#ifndef _COBYLA_
+#define _COBYLA_
+
+#include "nlopt.h"
+#include "nlopt-util.h"
+
+/*
+ * Verbosity level
+ */
+typedef enum {
+  COBYLA_MSG_NONE = 0, /* No messages */
+  COBYLA_MSG_EXIT = 1, /* Exit reasons */
+  COBYLA_MSG_ITER = 2, /* Rho and Sigma changes */
+  COBYLA_MSG_INFO = 3, /* Informational messages */
+} cobyla_message;
+
+/*
+ * A function as required by cobyla
+ * state is a void pointer provided to the function at each call
+ *
+ * n     : the number of variables
+ * m     : the number of constraints
+ * x     : on input, then vector of variables (should not be modified)
+ * f     : on output, the value of the function
+ * con   : on output, the value of the constraints (vector of size m)
+ * state : on input, the value of the state variable as provided to cobyla
+ *
+ * COBYLA will try to make all the values of the constraints positive.
+ * So if you want to input a constraint j such as x[i] <= MAX, set:
+ *   con[j] = MAX - x[i]
+ * The function must returns 0 if no error occurs or 1 to immediately end the
+ * minimization.
+ *
+ */
+typedef int cobyla_function(int n, int m, double *x, double *f, double *con,
+  void *state);
+
+/*
+ * cobyla : minimize a function subject to constraints
+ *
+ * n         : number of variables (>=0)
+ * m         : number of constraints (>=0)
+ * x         : on input, initial estimate ; on output, the solution
+ * minf      : on output, minimum objective function
+ * rhobeg    : a reasonable initial change to the variables
+ * stop      : the NLopt stopping criteria
+ * message   : see the cobyla_message enum
+ * calcfc    : the function to minimize (see cobyla_function)
+ * state     : used by function (see cobyla_function)
+ *
+ * The cobyla function returns the usual nlopt_result codes.
+ *
+ */
+extern nlopt_result cobyla(int n, int m, double *x, double *minf, double rhobeg, nlopt_stopping *stop,
+  int message, cobyla_function *calcfc, void *state);
+
+/* NLopt-style interface function */
+nlopt_result cobyla_minimize(int n, nlopt_func f, void *f_data,
+                             int m, nlopt_func fc,
+                             void *fc_data_, ptrdiff_t fc_datum_size,
+                             const double *lb, const double *ub, /* bounds */
+                             double *x, /* in: initial guess, out: minimizer */
+                             double *minf,
+                             nlopt_stopping *stop,
+                             double rhobegin);
+
+#ifdef __cplusplus
+}
+#endif
+
+#endif /* _COBYLA_ */
index a8030849fc1cde0f097b534d79cb105cd7d23ca9..11dc862e851fb917baab3c9e394591fe0e1ac30e 100644 (file)
@@ -206,6 +206,7 @@ AC_CONFIG_FILES([
    crs/Makefile
    mlsl/Makefile
    mma/Makefile
    crs/Makefile
    mlsl/Makefile
    mma/Makefile
+   cobyla/Makefile
    test/Makefile
 ])
 
    test/Makefile
 ])
 
index cb11f15443f543a231f5be6a820c7757093748ad..55aeecf016bf2f8f7df4d83db7ce1c7d22b30c91 100644 (file)
@@ -1,6 +1,6 @@
 AM_CPPFLAGS = -I$(top_srcdir)/api 
 
 AM_CPPFLAGS = -I$(top_srcdir)/api 
 
-MFILES = NLOPT_GN_DIRECT.m NLOPT_GN_DIRECT_L.m NLOPT_GN_DIRECT_L_RAND.m NLOPT_GN_DIRECT_NOSCAL.m NLOPT_GN_DIRECT_L_NOSCAL.m NLOPT_GN_DIRECT_L_RAND_NOSCAL.m NLOPT_GN_ORIG_DIRECT.m NLOPT_GN_ORIG_DIRECT_L.m NLOPT_LN_SUBPLEX.m NLOPT_GD_STOGO.m NLOPT_GD_STOGO_RAND.m NLOPT_LD_LBFGS_NOCEDAL.m NLOPT_LD_LBFGS.m NLOPT_LN_PRAXIS.m NLOPT_LD_VAR1.m NLOPT_LD_VAR2.m NLOPT_LD_TNEWTON.m NLOPT_LD_TNEWTON_RESTART.m NLOPT_LD_TNEWTON_PRECOND.m NLOPT_LD_TNEWTON_PRECOND_RESTART.m NLOPT_GN_CRS2_LM.m NLOPT_GN_MLSL.m NLOPT_GD_MLSL.m NLOPT_GN_MLSL_LDS.m NLOPT_GD_MLSL_LDS.m NLOPT_LD_MMA.m 
+MFILES = NLOPT_GN_DIRECT.m NLOPT_GN_DIRECT_L.m NLOPT_GN_DIRECT_L_RAND.m NLOPT_GN_DIRECT_NOSCAL.m NLOPT_GN_DIRECT_L_NOSCAL.m NLOPT_GN_DIRECT_L_RAND_NOSCAL.m NLOPT_GN_ORIG_DIRECT.m NLOPT_GN_ORIG_DIRECT_L.m NLOPT_LN_SUBPLEX.m NLOPT_GD_STOGO.m NLOPT_GD_STOGO_RAND.m NLOPT_LD_LBFGS_NOCEDAL.m NLOPT_LD_LBFGS.m NLOPT_LN_PRAXIS.m NLOPT_LD_VAR1.m NLOPT_LD_VAR2.m NLOPT_LD_TNEWTON.m NLOPT_LD_TNEWTON_RESTART.m NLOPT_LD_TNEWTON_PRECOND.m NLOPT_LD_TNEWTON_PRECOND_RESTART.m NLOPT_GN_CRS2_LM.m NLOPT_GN_MLSL.m NLOPT_GD_MLSL.m NLOPT_GN_MLSL_LDS.m NLOPT_GD_MLSL_LDS.m NLOPT_LD_MMA.m NLOPT_LN_COBYLA.m 
 
 #######################################################################
 octdir = $(OCT_INSTALL_DIR)
 
 #######################################################################
 octdir = $(OCT_INSTALL_DIR)
diff --git a/octave/NLOPT_LN_COBYLA.m b/octave/NLOPT_LN_COBYLA.m
new file mode 100644 (file)
index 0000000..7fcc4f0
--- /dev/null
@@ -0,0 +1,5 @@
+% NLOPT_LN_COBYLA: COBYLA (Constrained Optimization BY Linear Approximations) (local, no-derivative)
+%
+% See nlopt_minimize for more information.
+function val = NLOPT_LN_COBYLA
+  val = 26;