我不能添加评论，因为我的声誉> 50，所以我会尝试回答。你的代码实际上是工作，据我所知，但我不确定我理解你的问题。
尝试使用onhidden事件函数在模态关闭时记录error变量。这里有一个示例和一个jsfiddle链接：

error = false;
if (error == false) {
   BootstrapDialog.show({
      title: 'Atention',
      message: `There was an error`,
      data: { 'error': error, },
      onhidden: function(dialogItself) {
        console.log("onhidden: error = " + error);
      },
      buttons: [
        { label: 'Close', action: function(dialogItself) { error = true; dialogItself.close(); } },
        { label: 'Keep going', cssClass: 'btn-success', action: function(dialogItself) { error = false; dialogItself.close(); } }
      ]
   });
}

字符串
https://jsfiddle.net/6s3rhdmk/4/