C++新经典 | C++ 查漏补缺（并发与多线程）

void TestCanShu2(const int&i)
{
    std::cout << "i:" << &i << std::endl;
}
void main()
{
    int mvar2 = 30;
    std::cout << "mvar2:" << &mvar2 << std::endl;
 
    std::thread  thread2(TestCanShu2, mvar2);    //拷贝了一份参数，虽然形参是引用类型，但是地址不同
    thread2.join();
}

void TestCanShu3( int&i)
{
    std::cout << "i:"<<&i << std::endl;
}
void main()
{
    int mvar3 = 40;
    std::cout << "mvar3:" << &mvar3 << std::endl;
 
    std::thread  thread3(TestCanShu3, std::ref(mvar3));   //地址相同
    thread3.join();
}

        为了数据安全，往线程入口函数传递类类型对象作为参数的时候，不管接收者（形参）是否用引用接收，都一概采用复制对象的方式来进行参数的传递。如果真的有需求明确告诉编译器要传递一个能够影响原始参数（实参）的引用过去，就得使用std::ref。

class TestThread {
public:
    int age;
    TestThread()
    {
        std::cout << "无参构造函数" << std::endl;
    }
    TestThread(int _age) :age(_age) {
        std::cout << "含参构造函数" << std::endl;
    }
};
 
void TestCanShu4(const TestThread& arg)
{
    std::cout << "arg:"<<&arg << std::endl;
}
void main()
{
    TestThread test(10);
    std::cout << "test:"<<&test << std::endl;
    std::thread  thread(TestCanShu4,test);             //地址不同    
    thread.join();
}
void main()
{
    TestThread test(10);
    std::cout << "test:"<<&test << std::endl;
    std::thread  thread1(TestCanShu4,std::ref(test));  //地址相同         
    thread1.join();
}

三、多线程数据共享

• 只读的数据：一段共享数据，如果数据是只读的，每个线程都去读，那无所谓，每个线程读到的内容肯定都是一样的。
• 有读有写：读的时候就不能写，写的时候就不能读，两个（或者多个）线程也不能同时写，两个（或者多个）线程也不能同时读。

1.保护共享数据

        当某个线程操作该共享数据的时候，就用一些代码把这个共享数据锁住，其他想操作这个共享数据的线程必须等待当前操作完成并把这个共享数据的锁打开，其他线程才能继续操作这个共享数据。这样都按顺序和规矩来访问这个共享数据，共享数据就不会被破坏，程序也就不会报异常。

（1）互斥量mutex

        互斥量，翻译成英文是mutex，互斥量实际是一个类，可以理解为一把锁。在同一时间，多个线程都可以调用lock成员函数尝试给这把锁头加锁，但是只有一个线程可以加锁成功，其他没加锁成功的线程，执行流程就会卡在lock语句行这里不断地尝试去加锁这把锁头，一直到加锁成功，执行流程才会继续走下去。

        互斥量需要小心使用，原则就是保护需要保护的数据，不要多也不要少，保护的数据少了（例如明明有两行代码都是操作共享数据的，却只保护了一行代码），没达到保护效果，程序执行可能还出现异常，保护的数据多了，就会影响程序运行效率，因为操作这段被保护的数据时，别人（其他线程）都在那里等着，所以操作完之后要尽快把锁头解锁，别人才能去操作这段共享数据。

#include 
std::mutex mutex;
void InputData()
{
    for (size_t i = 0; i < 100; i++)
    {
        mutex.lock();
        list.push(i);
        mutex.unlock();
    }
}
 
bool GetData()
{
    mutex.lock();
    if (!list.empty())
    {
        list.pop();
        mutex.unlock();          //注意
        return true;
    }
    mutex.unlock();              //注意
    return false;
}

        lock和unlock的使用规则：成对使用，有lock必然要有unlock，每调用一次lock，必然要调用一次unlock，不应该也不允许调用1次lock却调用了2次unlock，也不允许调用2次lock却调用1次unlock，否则都会使代码不稳定甚至崩溃。

（2）std::lock_guard类模板

        C++语言很体谅程序员，特意引入了一个叫作std::lock_guard的类模板。这个类模板非常体贴，它有一个很好的功能，就是即便开发者忘记了unlock也不要紧，它会替开发者unlock。

        std::lock_guard类模板直接可以用来取代lock和unlock，请注意，lock_guard是同时取代lock和unlock两个函数，也就是说，使用了lock_guard之后，就再也不需要使用lock和unlock了。

        std::lock_guard的工作原理很简单，这样理解：在lock_guard类模板的构造函数里，调用了mutex的lock成员函数，而在析构函数里，调用了mutex的unlock成员函数。

bool GetData()
{
    std::lock_guard _mutex(mutex);
    if (!list.empty())
    {
        list.pop();
        return true;
    }
    return false;
}

        _mutex是随便起的变量名。仅当_mutex超出作用域或者所在函数返回的时候才会因为std::lock_guard析构函数的执行而去调用mutex的unlock成员函数。

2.死锁

        死锁这个问题是由至少两个锁头也就是两个互斥量才能产生。每个线程都在这里等着对方线程把锁头解锁，你等我我等你。

        只要确保这两个互斥量上锁的先后顺序相同就不会死锁。而unlock的顺序则没有太大关系（建议谁后lock，谁就先unlock）。

（1）std::lock函数模板

        std::lock函数模板能一次锁住两个或者两个以上的互斥量（互斥量数量是2个到多个，不可以是1个），它不存在多个线程中因为锁的顺序问题导致死锁的风险。

        如果这些互斥量中有一个没锁住，就要卡在std::lock那里等着，等所有互斥量都锁住，std::lock才能返回，程序执行流程才能继续往下走。

        std::lock锁定两个mutex的特点是：要么两个mutex（互斥量）都锁住；要么两个mutex都没锁住，此时std::lock卡在那里不断地尝试锁这两个互斥量。所以，std::lock是要处理多个互斥量的时候才出场的。

3.unique_lock类模板

        unique_lock是一个类模板，它的功能与lock_guard类似，比lock_guard更灵活，但是占内存，运行效率差一点。unique_lock可以完全取代lock_guard。

（1）std::defer_lock

        （用这个defer_lock的前提是程序员不能自己先去lock这个mutex，否则会报异常）。std::defer_lock的意思就是初始化这个mutex，但是这个选项表示并没有给这个mutex加锁，初始化了一个没有加锁的mutex。

（2）try_to_lock参数

        系统会尝试用mutex的lock去锁定这个mutex，但如果没锁成功，也会立即返回，并不会阻塞在那里（使用std::try_to_lock的前提是程序员不能自己先去lock这个mutex，因为std::try_to_lock会尝试去lock，如果程序员先lock了一次，那这里就等于再次lock了，两次lock的结果就是程序卡死了）。

void TestLock()
{
    std::unique_lock temp(mutex, std::defer_lock);
    if (temp.owns_lock())
    {
        std::cout << "defer_lock:已锁" << std::endl;     //不输出
    }
    //temp.lock();                                                 //加锁    方法一
    //temp.try_lock();                                             //加锁    方法二
    std::unique_lock temp1(mutex, std::try_to_lock);   //加锁    方法三
 
    if (temp1.owns_lock())                              //输出
    {
        std::cout << "try_to_lock:已锁" << std::endl;
    }
}

（3）成员函数lock                

        给互斥量加锁，如果无法加锁，会阻塞一直等待拿到锁。

（4）成员函数unlock        

        针对加锁的互斥量，给该互斥量解锁，不可以针对没加锁的互斥量使用，否则报异常。在加锁互斥量后，随时可以用该成员函数再重新解锁这个互斥量。当然，解锁后，若需要操作共享数据，还要再重新加锁后才能操作。虽然unique_lock能够自动解锁，但是也可以用该函数手工解锁。所以，该函数也体现了unique_lock比lock_guard灵活的地方——随时可以解锁。

（5）成员函数try_lock

        尝试给互斥量加锁，如果拿不到锁，则返回false；如果拿到了锁，则返回true。

（6）成员函数release

        返回它所管理的mutex对象指针，并释放所有权。也就是这个unique_lock和mutex不再有关系。严格区别release和unlock这两个成员函数的区别，unlock只是让该unique_lock所管理的mutex解锁而不是解除两者的关联关系。

        一旦解除该unique_lock和所管理的mutex的关联关系，如果原来mutex对象处于加锁状态，则程序员有责任负责解锁。

（7）unique_lock所有权

        所有权指的就是unique_lock所拥有的这个mutex，unique_lock可以把它所拥有的mutex传递给其他的unique_lock。所以，unique_lock对这个mutex的所有权是属于可以移动但不可以复制的，这个所有权的传递与unique_ptr智能指针的所有权传递非常类似。

        如：通过函数返回一个unique_lock时，底层会调用移动构造函数。

4.锁的粒度

        有人也把用锁锁住的代码多少称为锁的粒度，粒度一般用粗细描述：

• 锁住的代码少，粒度就细，程序执行效率就高。
• 锁住的代码多，粒度就粗，程序执行效率就低（因为其他线程访问共享数据等待的时间会更长）。

5.单例模式的双重锁定

 static Test* GetInstance()
     {
         if (_instance == nullptr)
         {
             std::unique_lock lock(mutex);
             if (_instance == nullptr) {
                 _instance = new Test();
             }
         }
         return _instance;
     }

        可以注意到，有两个if (_instance == nullptr)，许多资料上叫这种写法为“双重锁定”或者“双重检查”。

6.std::call_once

        这是一个C++11引入的函数，这个函数的第二个参数是某个其他的函数名。假设有个函数，名字为a，call_once的功能就是能够保证函数a只被调用一次。读者都知道，例如有两个线程都调用函数a，那么这个函数a肯定是会被调用两次。但是，有了call_once，就能保证，即便是在多线程下，这个函数a也只会被调用一次。

        所以从这个角度讲，call_once也是具备互斥量的能力的，而且效率上据说比互斥量消耗的资源更少。

（1）std::once_flag

        std::once_flag，这是一个结构，在这里就理解为一个标记即可，call_once就是通过这个标记来决定对应的函数a是否执行，调用call_once成功后，call_once会反转这个标记的状态，这样再次调用call_once后，对应的函数a就不会再次被执行了。

7.条件变量std::condition_variable

        条件变量有什么用处呢？当然也是用在线程中，例如它用在线程A中等待一个条件满足（如等待消息队列中有要处理的数据），另外还有个线程B（专门往消息队列中扔数据），当条件满足时（消息队列中有数据时），线程B通知线程A，那么线程A就会从等待这个条件的地方往下继续执行。（当消息队列不为空的时候做一个通知，可以避免不断地判断消息队列是否为空。）

        std::condition_variable是一个类，一个和条件相关的类，用于等待一个条件达成。这个类需要和互斥量配合工作，用的时候要生成这个类的对象。

        notify_one函数会随机选择一个等待线程进行唤醒，而notify_all函数会唤醒所有等待线程。

class Test_condition_variable
{
private:
    std::condition_variable cv;
    std::queue<int> *list;
    static Test_condition_variable* _instance;
public:
     Test_condition_variable()
    {
         list = new std::queue<int>();
    }
     static  Test_condition_variable* GetInstance()
     {
         if (_instance == nullptr)
         {
             std::unique_lock lock(mutex);
             if (_instance == nullptr) {
                 _instance = new Test_condition_variable();
                 static ReleaseInstance ri;
             }
         }
         return _instance;
     }
     class ReleaseInstance {
     public:
         ~ReleaseInstance()
         {
             if (_instance != nullptr)
             {
                 delete _instance;
                 _instance = nullptr;
             }
         }
     };
    void InputData(int data)
    {
        std::unique_lock lock(mutex);
        list->push(data);
        if (list->size() > 0)
        {
            cv.notify_all();
        }
    }
    void OutputData()
    {
        std::unique_lock lock(mutex);
 
        cv.wait(lock, [&]() {             //wait被InputData线程中的notify_all唤醒了
            if (!list->empty())           //如果没有第二个参数，则默认为一个返回false的谓词，即线程会一直等待直到被notify唤醒。即：如果唤醒之后， wait返回，执行流程走下来（注意现在互斥量是被锁着的）
            {                            //判断非常重要，因为唤醒这件事，存在虚假唤醒
                return true;             //如果唤醒之后，lambda表达式为true，那么wait返回，执行流程走下来（注意现在互斥量是被锁着的）
            }
            return false;                //如果唤醒之后，lambda表达式为false，那么这个wait又对互斥量解锁，然后又堵塞在这里等待被notify_all唤醒
            });
        //如果走到这里，说明list中一定有数据，注意此时互斥量是被锁着的
        auto value = list->front();
        list->pop();
    }
};

四、std::async和std::future、std::shared_future

        当我们希望线程返回一个结果时，除了可以把线程执行结果赋给一个全局变量，还可以用std::async和std::future来实现。

        std::async是一个函数模板，通常的说法是用来启动一个异步任务，就是说std::async会自动创建一个新线程（有时不会创建新线程）并开始执行对应的线程入口函数。启动起来这个异步任务后，它会返回一个std::future对象（std::future是一个类模板），这个对象里含有线程入口函数的返回结果。可以通过调用future对象的成员函数get来获取结果（future中会保存一个值，在将来某个时刻能够拿到。）。

#include 
int TestThreadReturn()
{
    std::chrono::milliseconds timer(5000);
    std::this_thread::sleep_for(timer);
    return -1;    //等待5秒返回-1
}
void TestFuture()
{
    std::future<int> result = std::async(TestThreadReturn);
    //result.wait();             //wait成员函数只是等待线程返回，但本身不返回结果。
    int value = result.get();    //当主线程执行到result.get()这行时，卡在这里，get成员函数等待线程结束（等待5秒）并返回结果-1。
    std::cout << value << std::endl;
}

1.std::future的成员函数

（1）get()

        get是很特殊的一个函数，不拿到值誓不罢休，程序执行流程必须卡在这里等待线程返回值为止。所以必须要保证，和std::future有关的内容一定要返回值或者一定要给result值，不然后续的result.get就会一直卡着。

        future对象的get函数被设计为移动语义，所以一旦调用get，就相当于把这个线程结果信息移动到result里面去了，所以再次调用future对象中的get就不可以了，因为这个结果值已经被移走了，再移动会报异常。（这就是std::future与std::shared_future的区别）

（2）wait()

        这个成员函数只是等待线程返回，但本身不返回结果。

2.std::shared_future

        std::shared_future和std::future一样，也是一个类模板。future对象的get函数是把数据进行转移，而shared_future从字面分析，是一个共享式的future，所以不难猜测到，shared_future的get函数应该是把数据进行复制（而不是转移）。这样多个线程就都可以获取到线程的返回结果。

3.std::async额外参数

        可以给async提供一个额外的参数，这个额外参数的类型是std::launch类型（一个枚举类型），来表示一些额外的含义。看一看这个枚举类型可以取哪些值。

（1）std::launch::deferred

        该参数表示线程入口函数的执行被延迟到std::future的wait或者get函数调用时，如果wait或者get没有被调用，则干脆这个线程就不执行了。

        如果后续调用wait或者get，则可以发现线程入口函数被执行了，但同时也会惊奇地发现，认知中的async调用根本没创建新线程，而是在主线程中调用的线程入口函数（主线程id和子线程id相同，说明没有创建子线程）。

（2）std::launch::async

        该参数表示在调用async函数时就开始创建并执行线程（强制这个异步任务在新线程上执行）。这意味着系统必须要创建出新线程来执行（主线程id和子线程id不同）。

（3）std::launch::async | std::launch::deferred

        如果std::async调用中不使用任何额外的参数，那么就相当于使用了std::launch::async | std::launch::deferred作为额外参数，这意味着系统自行决定是以同步（不创建新线程）或者异步（创建新线程）的方式运行任务。

4.std::thread VS std::async

        创建一个线程，一般都是使用std::thread方法。但是如果在一个进程中创建的线程太多导致系统资源紧张（或者是系统资源本来就很紧张的情况下），继续调用std::thread可能就会导致创建线程失败，程序也会随之运行崩溃。而且，std::thread这种创建线程的方式，如果这个线程返回一个值，想拿到这个结果也并不容易。

        std::thread是直接的创建线程，而std::async其实是叫创建异步任务，也就是说std::async可能创建线程，也可能不创建线程。同时，std::async还有一个独特的优点：这个异步任务返回的值程序员可以通过std::future对象在将来某个时刻（线程执行完）直接拿到手。

        由于系统资源的限制：

• 如果用std::thread创建的线程太多，则很可能创建失败，程序会报异常并且崩溃。
• 如果用std::async，一般就不会报异常崩溃，如果系统资源紧张导致无法创建新线程，std::async不加额外参数（或者额外参数是std::launch::async|std::launch::deferred）的调用就不会创建新线程而是后续谁调用了result.get来请求结果，那么这个异步任务就运行在执行这条get语句所在的线程上。也就是说，std::async不保证一定能创建出新线程来。如果程序员非要创建一个新线程出来，那就要使用std::launch::async这个额外参数，那么使用这个额外参数要承受的代价就是：当系统资源紧张时，如果非要创建一个新线程来执行任务，那么程序运行可能会产生异常从而崩溃。
• 根据经验来讲，一个程序（进程）里面创建的线程数量，如果真有非常大量的业务需求，则一般以100~200个为好，最高也不要超过500个。因为请不要忘记，线程调度、切换线程运行都要消耗系统资源和时间。

五、原子操作std::atomic

        在自然界中，原子是很小的，没有比原子更小的物质了，那么在计算机的世界中，原子操作也有类似的意思，一般就是指“不可分割的操作”，也就是说这种操作的状态要么是完成，要么是没完成，不会出现一种半完成状态（半完成：执行到一半被打断）。

        互斥量可以达到原子操作的效果，所以，可以把原子操作理解成是一种不需要用到互斥量加锁（无锁）技术的多线程并发编程方式，或者可以理解成，原子操作是在多线程中不会被打断的程序执行片段。从效率上来讲，也可以认为，原子操作的效率更胜一筹。不然用互斥量就行了，谁还会用原子操作呢。

        另外有一点要意识到，互斥量的加锁一般是针对一个代码段（几行代码），而原子操作针对的是一个变量，而不是一个代码段。

        在C++11中，引入std::atomic来代表原子操作，这是一个类模板。这个类模板里面带的是一个类型模板参数，所以其实是用std::atomic来封装一个某类型的值。

std::atomic<int> value = 0;
void TestAtomic_Thread()
{
    for (size_t i = 0; i < 1000; i++)
    {
        value++;                 //原子操作
        //value += 1;              //原子操作
        //value = value + 1;       //不是原子操作
    }
}

        std::atomic并不是所有的运算操作都是原子的。一般来讲，包含++、--、+=、-=、&=、|=、^=等简单运算符的运算是原子的，其他的一些包含比较复杂表达式的运算可能就不是原子的。

        原子操作适用的场合相对有限，一般常用于做计数（数据统计）之类的工作，例如累计发送出去了多少个数据包，累计接收到了多少个数据包等。试想，多个线程都用来计数，如果没有原子操作，那就跟上面讲的一样，统计的数字会出现混乱的情形，如果用了原子操作，所得到的统计结果数据就能够保持正确。

六、线程数量问题

1.线程创建的数量极限问题

        根据相关人士的测试，一般开2000个左右线程就是极限，再创建就会导致资源枯竭甚至程序崩溃。

2.线程创建数量建议

        当程序员采用一些比较独特的开发技术来开发程序时，如采用IOCP完成端口技术开发网络通信程序，往往会收到开发接口提供商提出的建议，如建议创建的通信线程数量等于CPU数量、等于CPU的数量*2、等于CPU的数量*2+2等诸如此类。建议遵从这些建议，因为这些建议是专业的，经过大量测试的，有权威性。

        其一：线程多的话，CPU在各个线程之间切换就要大量地保存数据和恢复数据，因为线程切换回来的时候要把线程中用到的如局部变量等数据也要恢复回来。显然，大量的保存和恢复数据是很占用CPU时间的，CPU都把时间花在保存和恢复数据上，它还有时间干正事吗？所以，当创建的线程数量过多时会发现，每个线程的执行都变得特别慢，整个系统的执行效率不升反降。

        其二：现在的操作系统都是多任务操作系统，虽然系统会把一个应用程序虚拟成一个独立的个体，看起来所有硬件都归这个独立的个体所用，但是系统的硬件资源必定是有限的，一个程序占用的多了，另外一个程序必然就占用的少了，当程序运行所需的资源超出了整个计算机硬件的负荷，该计算机的运行效率就直线下降，程序执行将变得异常缓慢。

        建议一个进程中所包含线程的数量尽量不要超过500个，以200个以内为比较好，就算是根据业务需要，一般来讲，也很少会用到超过200个线程的。如果业务太过庞大，单台计算机处理不了，那么就要考虑集群的解决方案，拼命榨取单计算机的硬件资源终究会有尽头。