structuredPlaner.h

Go to the documentation of this file.

/****************************************************************************
 *   This file is part of the aGrUM/pyAgrum library.                        *
 *                                                                          *
 *   Copyright (c) 2005-2026 by                                             *
 *       - Pierre-Henri WUILLEMIN(_at_LIP6)                                 *
 *       - Christophe GONZALES(_at_AMU)                                     *
 *                                                                          *
 *   The aGrUM/pyAgrum library is free software; you can redistribute it    *
 *   and/or modify it under the terms of either :                           *
 *                                                                          *
 *    - the GNU Lesser General Public License as published by               *
 *      the Free Software Foundation, either version 3 of the License,      *
 *      or (at your option) any later version,                              *
 *    - the MIT license (MIT),                                              *
 *    - or both in dual license, as here.                                   *
 *                                                                          *
 *   (see https://agrum.gitlab.io/articles/dual-licenses-lgplv3mit.html)    *
 *                                                                          *
 *   This aGrUM/pyAgrum library is distributed in the hope that it will be  *
 *   useful, but WITHOUT WARRANTY OF ANY KIND, EXPRESS OR IMPLIED,          *
 *   INCLUDING BUT NOT LIMITED TO THE WARRANTIES MERCHANTABILITY or FITNESS *
 *   FOR A PARTICULAR PURPOSE  AND NONINFRINGEMENT. IN NO EVENT SHALL THE   *
 *   AUTHORS OR COPYRIGHT HOLDERS BE LIABLE FOR ANY CLAIM, DAMAGES OR OTHER *
 *   LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,        *
 *   ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR  *
 *   OTHER DEALINGS IN THE SOFTWARE.                                        *
 *                                                                          *
 *   See LICENCES for more details.                                         *
 *                                                                          *
 *   SPDX-FileCopyrightText: Copyright 2005-2026                            *
 *       - Pierre-Henri WUILLEMIN(_at_LIP6)                                 *
 *       - Christophe GONZALES(_at_AMU)                                     *
 *   SPDX-License-Identifier: LGPL-3.0-or-later OR MIT                      *
 *                                                                          *
 *   Contact  : info_at_agrum_dot_org                                       *
 *   homepage : http://agrum.gitlab.io                                      *
 *   gitlab   : https://gitlab.com/agrumery/agrum                           *
 *                                                                          *
 ****************************************************************************/
 

 
// =========================================================================
#ifndef GUM_STRUCTURED_PLANNING_H
#define GUM_STRUCTURED_PLANNING_H
// =========================================================================
#include <thread>
// =========================================================================
// =========================================================================
// =========================================================================
#include <agrum/FMDP/planning/mddOperatorStrategy.h>
#include <agrum/FMDP/planning/treeOperatorStrategy.h>
#include <agrum/FMDP/SDyna/Strategies/IPlanningStrategy.h>
 
// =========================================================================
 
namespace gum {

  template < typename GUM_ELEMENT >
  class StructuredPlaner: public IPlanningStrategy< GUM_ELEMENT > {
    // ###################################################################
    // ###################################################################
 
    public:
    // ==========================================================================
    // ==========================================================================
    static StructuredPlaner< GUM_ELEMENT >* spumddInstance(GUM_ELEMENT discountFactor = 0.9,
                                                           GUM_ELEMENT epsilon        = 0.00001,
                                                           bool        verbose        = true);
 
    // ==========================================================================
    // ==========================================================================
    static StructuredPlaner< GUM_ELEMENT >* sviInstance(GUM_ELEMENT discountFactor = 0.9,
                                                        GUM_ELEMENT epsilon        = 0.00001,
                                                        bool        verbose        = true);

 
    // ###################################################################
    // ###################################################################
 
    protected:
    // ==========================================================================
    // ==========================================================================
    StructuredPlaner(IOperatorStrategy< GUM_ELEMENT >* opi,
                     GUM_ELEMENT                       discountFactor,
                     GUM_ELEMENT                       epsilon,
                     bool                              verbose);
 
    // ==========================================================================
    // ==========================================================================
 
    public:
    ~StructuredPlaner() override;

 
    // ###################################################################
    // ###################################################################
 
    public:
    // ==========================================================================
    // ==========================================================================
    const FMDP< GUM_ELEMENT >* fmdp();
 
    // ==========================================================================
    // ==========================================================================
    const MultiDimFunctionGraph< GUM_ELEMENT >* vFunction();
 
    // ==========================================================================
    // ==========================================================================
    Size vFunctionSize() override;
 
    // ==========================================================================
    // ==========================================================================
    MultiDimFunctionGraph< ActionSet, SetTerminalNodePolicy >* optimalPolicy() override;
 
    // ==========================================================================
    // ==========================================================================
    Size optimalPolicySize() override;
 
    // ==========================================================================
    // ==========================================================================
    std::string optimalPolicy2String() override;

 
 
    // ###################################################################
    // ###################################################################
 
    public:
    // ==========================================================================
    // ==========================================================================
    void initialize(const FMDP< GUM_ELEMENT >* fmdp) override;
 
 
    // ==========================================================================
    // ==========================================================================
    void makePlanning(Idx nbStep = 1000000) override;

 
 
    // ###################################################################
    // ###################################################################
 
    protected:
    // ==========================================================================
    // ==========================================================================
    virtual void initVFunction_();
 
    // ==========================================================================
    // ==========================================================================
    virtual MultiDimFunctionGraph< GUM_ELEMENT >* valueIteration_();
 
    // ==========================================================================
    // ==========================================================================
    virtual MultiDimFunctionGraph< GUM_ELEMENT >*
        evalQaction_(const MultiDimFunctionGraph< GUM_ELEMENT >*, Idx);
 
    // ==========================================================================
    // ==========================================================================
    virtual MultiDimFunctionGraph< GUM_ELEMENT >*
        maximiseQactions_(std::vector< MultiDimFunctionGraph< GUM_ELEMENT >* >&);
 
    // ==========================================================================
    // ==========================================================================
    virtual MultiDimFunctionGraph< GUM_ELEMENT >*
        minimiseFunctions_(std::vector< MultiDimFunctionGraph< GUM_ELEMENT >* >&);
 
    // ==========================================================================
    // ==========================================================================
    virtual MultiDimFunctionGraph< GUM_ELEMENT >*
        addReward_(MultiDimFunctionGraph< GUM_ELEMENT >* function, Idx actionId = 0);

 
 
    // ###################################################################
    // ###################################################################
 
    protected:
    // ==========================================================================
    // ==========================================================================
    virtual void evalPolicy_();
 
    // ==========================================================================
    // ==========================================================================
    MultiDimFunctionGraph< ArgMaxSet< GUM_ELEMENT, Idx >, SetTerminalNodePolicy >*
        makeArgMax_(const MultiDimFunctionGraph< GUM_ELEMENT >* Qaction, Idx actionId);
 
    private:
    // ==========================================================================
    // ==========================================================================
    NodeId _recurArgMaxCopy_(
        NodeId,
        Idx,
        const MultiDimFunctionGraph< GUM_ELEMENT >*,
        MultiDimFunctionGraph< ArgMaxSet< GUM_ELEMENT, Idx >, SetTerminalNodePolicy >*,
        HashTable< NodeId, NodeId >&);
 
    protected:
    // ==========================================================================
    // ==========================================================================
    virtual MultiDimFunctionGraph< ArgMaxSet< GUM_ELEMENT, Idx >, SetTerminalNodePolicy >*
        argmaximiseQactions_(std::vector< MultiDimFunctionGraph< ArgMaxSet< GUM_ELEMENT, Idx >,
                                                                 SetTerminalNodePolicy >* >&);
 
    // ==========================================================================
    // ==========================================================================
    void extractOptimalPolicy_(
        const MultiDimFunctionGraph< ArgMaxSet< GUM_ELEMENT, Idx >, SetTerminalNodePolicy >*
            optimalValueFunction);
 
    private:
    // ==========================================================================
    // ==========================================================================
    NodeId _recurExtractOptPol_(
        NodeId,
        const MultiDimFunctionGraph< ArgMaxSet< GUM_ELEMENT, Idx >, SetTerminalNodePolicy >*,
        HashTable< NodeId, NodeId >&);
 
    // ==========================================================================
    // ==========================================================================
    void _transferActionIds_(const ArgMaxSet< GUM_ELEMENT, Idx >&, ActionSet&);
 

 
    protected:
    // ==========================================================================
    // ==========================================================================
    const FMDP< GUM_ELEMENT >* fmdp_;
 
    // ==========================================================================
    // ==========================================================================
    MultiDimFunctionGraph< GUM_ELEMENT >* vFunction_;
 
    // ==========================================================================
    // ==========================================================================
    MultiDimFunctionGraph< ActionSet, SetTerminalNodePolicy >* optimalPolicy_;
 
    // ==========================================================================
    // ==========================================================================
    gum::VariableSet elVarSeq_;
 
    // ==========================================================================
    // ==========================================================================
    GUM_ELEMENT discountFactor_;
 
    IOperatorStrategy< GUM_ELEMENT >* operator_;
 
    // ==========================================================================
    // ==========================================================================
    bool verbose_;
 
 
    private:
    // ==========================================================================
    // ==========================================================================
    GUM_ELEMENT _threshold_;
    bool        _firstTime_;
  };
 
} /* namespace gum */
 
#include <agrum/FMDP/planning/structuredPlaner_tpl.h>
 
#endif   // GUM_STRUCTURED_PLANNING_H