arithmetic.cpp 7.1 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206
  1. #include <stdexcept>
  2. #include <algorithm>
  3. #include <traph/tensor/tensor.h>
  4. #include <traph/tensor/arithmetic.h>
  5. #include <eigen3/Eigen/Dense>
  6. #ifdef TRAPH_BUILD_MKL
  7. #include <mkl.h>
  8. #include <mkl_blas.h>
  9. #include <mkl_cblas.h>
  10. #elif defined TRAPH_BUILD_OPENBLAS
  11. #include <openBLAS/cblas.h>
  12. #endif
  13. namespace traph
  14. {
  15. std::shared_ptr<Tensor<u8>> matmul_impl(const Tensor<u8>& a, const Tensor<u8>& b)
  16. {
  17. // check
  18. matmul_check(a, b);
  19. // result
  20. std::shared_ptr<Tensor<u8>> result(new Tensor<u8>(a.size()[0], b.size()[1]));
  21. // copy data
  22. Eigen::Map<const Eigen::Matrix<u8, Eigen::Dynamic, Eigen::Dynamic>> eigen_a(a.data_ptr() + a.offset(), a.size()[0], a.size()[1]);
  23. Eigen::Map<const Eigen::Matrix<u8, Eigen::Dynamic, Eigen::Dynamic>> eigen_b(b.data_ptr() + b.offset(), b.size()[0], b.size()[1]);
  24. Eigen::Matrix<u8, Eigen::Dynamic, Eigen::Dynamic> eigen_c = eigen_a * eigen_b;
  25. // copy to result
  26. std::copy(eigen_c.data(), eigen_c.data() + a.size()[0] * b.size()[1], result->data_ptr());
  27. return result;
  28. }
  29. std::shared_ptr<Tensor<i8>> matmul_impl(const Tensor<i8>& a, const Tensor<i8>& b)
  30. {
  31. // check
  32. matmul_check(a, b);
  33. // result
  34. std::shared_ptr<Tensor<i8>> result(new Tensor<i8>(a.size()[0], b.size()[1]));
  35. // copy data
  36. Eigen::Map<const Eigen::Matrix<i8, Eigen::Dynamic, Eigen::Dynamic>> eigen_a(a.data_ptr() + a.offset(), a.size()[0], a.size()[1]);
  37. Eigen::Map<const Eigen::Matrix<i8, Eigen::Dynamic, Eigen::Dynamic>> eigen_b(b.data_ptr() + b.offset(), b.size()[0], b.size()[1]);
  38. Eigen::Matrix<i8, Eigen::Dynamic, Eigen::Dynamic> eigen_c = eigen_a * eigen_b;
  39. // copy to result
  40. std::copy(eigen_c.data(), eigen_c.data() + a.size()[0] * b.size()[1], result->data_ptr());
  41. return result;
  42. }
  43. std::shared_ptr<Tensor<i16>> matmul_impl(const Tensor<i16>& a, const Tensor<i16>& b)
  44. {
  45. // check
  46. matmul_check(a, b);
  47. // result
  48. std::shared_ptr<Tensor<i16>> result(new Tensor<i16>(a.size()[0], b.size()[1]));
  49. // copy data
  50. Eigen::Map<const Eigen::Matrix<i16, Eigen::Dynamic, Eigen::Dynamic>> eigen_a(a.data_ptr() + a.offset(), a.size()[0], a.size()[1]);
  51. Eigen::Map<const Eigen::Matrix<i16, Eigen::Dynamic, Eigen::Dynamic>> eigen_b(b.data_ptr() + b.offset(), b.size()[0], b.size()[1]);
  52. Eigen::Matrix<i16, Eigen::Dynamic, Eigen::Dynamic> eigen_c = eigen_a * eigen_b;
  53. // copy to result
  54. std::copy(eigen_c.data(), eigen_c.data() + a.size()[0] * b.size()[1], result->data_ptr());
  55. return result;
  56. }
  57. std::shared_ptr<Tensor<i32>> matmul_impl(const Tensor<i32>& a, const Tensor<i32>& b)
  58. {
  59. // check
  60. matmul_check(a, b);
  61. // result
  62. std::shared_ptr<Tensor<i32>> result(new Tensor<i32>(a.size()[0], b.size()[1]));
  63. // copy data
  64. Eigen::Map<const Eigen::Matrix<i32, Eigen::Dynamic, Eigen::Dynamic>> eigen_a(a.data_ptr() + a.offset(), a.size()[0], a.size()[1]);
  65. Eigen::Map<const Eigen::Matrix<i32, Eigen::Dynamic, Eigen::Dynamic>> eigen_b(b.data_ptr() + b.offset(), b.size()[0], b.size()[1]);
  66. Eigen::Matrix<i32, Eigen::Dynamic, Eigen::Dynamic> eigen_c = eigen_a * eigen_b;
  67. // copy to result
  68. std::copy(eigen_c.data(), eigen_c.data() + a.size()[0] * b.size()[1], result->data_ptr());
  69. return result;
  70. }
  71. std::shared_ptr<Tensor<i64>> matmul_impl(const Tensor<i64>& a, const Tensor<i64>& b)
  72. {
  73. // check
  74. matmul_check(a, b);
  75. // result
  76. std::shared_ptr<Tensor<i64>> result(new Tensor<i64>(a.size()[0], b.size()[1]));
  77. // copy data
  78. Eigen::Map<const Eigen::Matrix<i64, Eigen::Dynamic, Eigen::Dynamic>> eigen_a(a.data_ptr() + a.offset(), a.size()[0], a.size()[1]);
  79. Eigen::Map<const Eigen::Matrix<i64, Eigen::Dynamic, Eigen::Dynamic>> eigen_b(b.data_ptr() + b.offset(), b.size()[0], b.size()[1]);
  80. Eigen::Matrix<i64, Eigen::Dynamic, Eigen::Dynamic> eigen_c = eigen_a * eigen_b;
  81. // copy to result
  82. std::copy(eigen_c.data(), eigen_c.data() + a.size()[0] * b.size()[1], result->data_ptr());
  83. return result;
  84. }
  85. std::shared_ptr<Tensor<f32>> matmul_impl(const Tensor<f32>& a, const Tensor<f32>& b)
  86. {
  87. // check
  88. matmul_check(a, b);
  89. // result
  90. std::shared_ptr<Tensor<f32>> result(new Tensor<f32>(a.size()[0], b.size()[1]));
  91. #ifdef TRAPH_BUILD_EIGEN
  92. // copy data
  93. Eigen::Map<const Eigen::Matrix<f32, Eigen::Dynamic, Eigen::Dynamic>> eigen_a(a.data_ptr() + a.offset(), a.size()[0], a.size()[1]);
  94. Eigen::Map<const Eigen::Matrix<f32, Eigen::Dynamic, Eigen::Dynamic>> eigen_b(b.data_ptr() + b.offset(), b.size()[0], b.size()[1]);
  95. Eigen::Matrix<f32, Eigen::Dynamic, Eigen::Dynamic> eigen_c = eigen_a * eigen_b;
  96. // copy to result
  97. std::copy(eigen_c.data(), eigen_c.data() + a.size()[0] * b.size()[1], result->data_ptr());
  98. #elif defined TRAPH_BUILD_MKL
  99. CBLAS_LAYOUT a_layout = a.order() == layout_type::column_major ? CBLAS_LAYOUT::CblasColMajor : CBLAS_LAYOUT::CblasRowMajor;
  100. cblas_sgemm(a_layout,
  101. CBLAS_TRANSPOSE::CblasNoTrans,
  102. CBLAS_TRANSPOSE::CblasNoTrans,
  103. a.size()[0],
  104. b.size()[1],
  105. a.size()[1],
  106. 1.f,
  107. a.data_ptr(),
  108. a.size()[0],
  109. b.data_ptr(),
  110. b.size()[0],
  111. 0.f,
  112. result->data_ptr(),
  113. result->size()[0]);
  114. #endif
  115. return result;
  116. }
  117. std::shared_ptr<Tensor<f64>> matmul_impl(const Tensor<f64>& a, const Tensor<f64>& b)
  118. {
  119. // check
  120. matmul_check(a, b);
  121. // result
  122. std::shared_ptr<Tensor<f64>> result(new Tensor<f64>(a.size()[0], b.size()[1]));
  123. #ifdef TRAPH_BUILD_EIGEN
  124. // copy data
  125. Eigen::Map<const Eigen::Matrix<f64, Eigen::Dynamic, Eigen::Dynamic>> eigen_a(a.data_ptr() + a.offset(), a.size()[0], a.size()[1]);
  126. Eigen::Map<const Eigen::Matrix<f64, Eigen::Dynamic, Eigen::Dynamic>> eigen_b(b.data_ptr() + b.offset(), b.size()[0], b.size()[1]);
  127. Eigen::Matrix<f64, Eigen::Dynamic, Eigen::Dynamic> eigen_c = eigen_a * eigen_b;
  128. // copy to result
  129. std::copy(eigen_c.data(), eigen_c.data() + a.size()[0] * b.size()[1], result.data_ptr());
  130. #elif defined TRAPH_BUILD_MKL
  131. CBLAS_LAYOUT a_layout = a.order() == layout_type::column_major ? CBLAS_LAYOUT::CblasColMajor : CBLAS_LAYOUT::CblasRowMajor;
  132. cblas_dgemm(a_layout,
  133. CBLAS_TRANSPOSE::CblasNoTrans,
  134. CBLAS_TRANSPOSE::CblasNoTrans,
  135. a.size()[0],
  136. b.size()[1],
  137. a.size()[1],
  138. 1.f,
  139. a.data_ptr(),
  140. a.size()[0],
  141. b.data_ptr(),
  142. b.size()[0],
  143. 0.f,
  144. result->data_ptr(),
  145. result->size()[0]);
  146. #endif
  147. return result;
  148. }
  149. std::shared_ptr<Tensor<f32>> inverse_impl(const Tensor<f32>& a)
  150. {
  151. // result
  152. std::shared_ptr<Tensor<f32>> result(new Tensor<f32>(a.size()[0], a.size()[1]));
  153. // copy data
  154. Eigen::Map<const Eigen::Matrix<f32, Eigen::Dynamic, Eigen::Dynamic>> eigen_a(a.data_ptr() + a.offset(), a.size()[0], a.size()[1]);
  155. Eigen::Matrix<f32, Eigen::Dynamic, Eigen::Dynamic> eigen_c = eigen_a.inverse();
  156. // copy to result
  157. std::copy(eigen_c.data(), eigen_c.data() + a.size()[0] * a.size()[1], result->data_ptr());
  158. return result;
  159. }
  160. std::shared_ptr<Tensor<f64>> inverse_impl(const Tensor<f64>& a)
  161. {
  162. // result
  163. std::shared_ptr<Tensor<f64>> result(new Tensor<f64>(a.size()[0], a.size()[1]));
  164. // copy data
  165. Eigen::Map<const Eigen::Matrix<f64, Eigen::Dynamic, Eigen::Dynamic>> eigen_a(a.data_ptr() + a.offset(), a.size()[0], a.size()[1]);
  166. Eigen::Matrix<f64, Eigen::Dynamic, Eigen::Dynamic> eigen_c = eigen_a.inverse();
  167. // copy to result
  168. std::copy(eigen_c.data(), eigen_c.data() + a.size()[0] * a.size()[1], result->data_ptr());
  169. return result;
  170. }
  171. }